Методические указания по Организации ЭВМ и систем

Супер скалярная обработка данных

Введение

В процессорах, начиная с Pentium III, возможно использование специального архитектурного расширения, предназначенного для потоковой обработки данных, - Streaming SIMD Extensions (SIMD - single instruction, multip le data, т.е. одна команда - много данных). Это расширение включает дополнительный набор команд, дополнительные режимы генерации ошибок и исключений, дополнительные внутренние регистры и форматы данных, воспринимаемые процессором. Данное расширение - усовершенствованные команды мультимедийной обработки ММХ.

Доступ ко всем SIMD-регистрам возможен только с помощью новых SIMD-команд. Перед использованием данного расширения ПО должно с помощью команды CPUID проверить, поддерживается ли оно конкретной моделью микропроцессора.

Новые SIMD-команды, реализованные в процессоре Pentium® III, увеличивают производительность прикладных программ в следующих областях:

• трехмерная графика и моделирование, расчет освещенности с использованием вычислений с плавающей запятой;
• обработка сигналов и моделирование процессов с широким диапазоном изменения параметров (вычисления с плавающей запятой);
• генерация трехмерных изображений в программах реального времени, использующих целочисленный код;
• алгоритмы кодирования и декодирования видеосигнала, обрабатывающие данные блоками;
• численные алгоритмы фильтрации, работающие с потоками данных.

Регистры и типы данных

Восемь 128-битных регистров общего назначения (ХММО...ХММ7) вводятся в процессор (Pentium III...) для использования командами потоковой обработки. SIMD-регистры ХММО...ХММ7 (см. рис.) могут применяться для вычислений и хранения данных. Они не могут использоваться для косвенной адресации, как регистры общего назначения (ЕАХ, ЕВХ, ЕСХ, EDX, EBP, ESI, EDI и ESP)

Команды SIMD делятся на 4 категории:

• SIMD-команды для данных одинарной точности с плавающей запятой (SPFP-команды);
• Дополнительные SIMD-команды для целочисленных данных;
• Команды управления кэшированием;
• Команды сохранения и восстановления компонент состояния процессора.

Одна SIMD-команда с плавающей запятой может обрабатывать одновременно четыре 32-разрядных числа одинарной точности с плавающей запятой (называемых SPFP-элементами данных).

SIMD-команды для работы с SPFP-данными используют восемь новых 128-разрядных регистров - XMM-регистров. Команды обращаются к XMM-регистрам по именам: XMM0, XMM1, :, XMM7.

Каждое 32-разрядное число с плавающей запятой имеет 1 знаковый бит, 8 битов порядка и 23 бита мантиссы, что соответствует стандарту IEEE-754 на формат представления чисел одинарной точности с плавающей запятой (SPFP-чисел).

SIMD-команды поддерживают два типа операций над упакованными данными с плавающей запятой - параллельные и скалярные.

Параллельные операции, как правило, действуют одновременно на все четыре 32-разрядных элемента данных в каждом из 128-разрядных операндов. В именах команд, выполняющих параллельные операции, присутствует суффикс PS. Например, команда addps складывает 4 пары элементов данных xmm1 и xmm2 и записывает полученные 4 суммы в соответствующие элементы первого операнда xmm1.

Скалярные операции действуют на младшие (занимающие разряды 0-31) элементы данных двух операндов. Остальные три элемента данных в выходном операнде не изменяются (исключение составляет команда скалярного копирования MOVSS). В имени команд, выполняющих скалярные операции, присутствует суффикс SS. Например, команда addss действует только на младшие элементы в регистрах xmm1 и xmm2. Результат записывается в xmm1 (выходной операнд). Содержимое трех старших элементов в xmm1 не изменяется.

Большинство команд имеют два операнда. Данные, содержащиеся в первом операнде, могут использоваться командой, а после ее выполнения, как правило, замещаются результатами. Данные во втором операнде используются в команде и после ее выполнения не изменяются. Далее в тексте входным называется второй операнд, а выходным - первый.

Организация данных для технологии SIMD

Хранение наборов данных в памяти организуется, как правило, одним из следующих способов:

• Массив, состоящий из структур (модель AOS);
• Структура, состоящая из массивов (модель SOA).

На рисунке иллюстрируются эти два способа на примере организации хранения компонентов вершин геометрических объектов.

В модели AOS все четыре компоненты (x,y,z,w) каждой вершины располагаются в памяти последовательно одна за другой.

В отличие от этого, модель SOA задает последовательное расположение в памяти одноименных компонент (например, x0, x1, x2,…,xn ) для различных вершин объекта.

Для наиболее эффективного использования технологии SIMD, группируйте в Ваших программах элементы данных, требующие сходной обработки, в массивы в рамках структур (модель SOA). Так, в приведенном примере, x-компоненты нескольких вершин могут быть кэшированы в одной кэш-линии и обрабатываться параллельно.

Алгоритмы решения ряда задач организуют хранение данных в памяти по модели AOS. Однако в большинстве случаев для вычислений по технологии SIMD модель AOS менее эффективна, чем SOA. Поэтому для повышения производительности программы, использующей новые SIMD-команды, рекомендуется перестроить алгоритм так, чтобы он работал с организацией данных по модели SOA. Такое перестроение может быть осуществлено двумя способами:

• Статическим
• Динамическим

Попробуйте сначала перестроить свой алгоритм статическим способом. Если этого сделать не удается, используйте динамический способ, даже если это повлечет дополнительные программные затраты на манипуляции с данными. Помните, что организация данных по модели AOS наименее эффективна и может не обеспечивать загрузку всех четырех устройств выполнения, хотя это все же предпочтительнее, чем скалярные вычисления.

Характер организации данных во многом зависит от используемого алгоритма и может быть различным для разных приложений.

В задачах, связанных с преобразованиями в трехмерном пространстве, осуществляется пересчет координат вершин объектов из одного положения в другое.

В приводимом примере кода показывается, как следует перегруппировать данные для четырех вершин из модели AOS в модель SOA.

В модели AOS данные для каждой вершины изначально представлены в виде структуры, состоящей из ее координат x, y, z и компоненты w ( w часто нормируется на 1).

Чтобы преобразовать данные к модели SOA, нужно выделить в отдельные группы сначала x-координаты всех вершин, затем y, z и w–координаты, и занести их в разные XMM-регистры (по 4 координаты за один цикл обработки).

SIMD – Команды

SIMD-команды имеют следующий синтаксис: instruction [dest, src]

Здесь instruction - имя команды, dest обозначает выходной операнд, src - входной операнд.

Доступны следующие SIMD-команды (обозначения: xmm - XMM-регистр; mm - MMX-регистр; m - память; imm - 8-битный непосредственный операнд; ir32 - целочисленный регистр):

MOVAPS xmm/m, xmm/m - команда копирует четыре FP-элемента одним из следующих способов:

• из памяти в XMM-регистр
• из XMM-регистра в память
• из одного XMM-регистра в другой

Линейный адрес соответствует адресу младшего байта группы данных в памяти. Обращение в память должно быть по адресу, кратному 16 байтам; в противном случае генерируется исключение.

MOVUPS xmm/m, xmm/m - команда копирует четыре FP-элемента одним из следующих способов:

• из памяти в XMM-регистр
• из XMM-регистра в память
• из одного XMM-регистра в другой

Линейный адрес соответствует адресу младшего байта группы данных в памяти. Команда применяется для обращения к невыровненным данным в памяти.

MOVHPS xmm/m, xmm/m - команда копирует два FP-элемента одним из следующих способов:

• из памяти в два старшие элемента XMM-регистра
• из двух старших элементов XMM-регистра в память

При копировании данных из памяти в XMM-регистр, два младших элемента этого регистра не изменяются. Команда работает с адресом младшего байта группы данных в памяти.

MOVLPS xmm/m, xmm/m - команда копирует два FP-элемента одним из следующих способов:

• из памяти в два младшие элемента XMM-регистра
• из двух младших элементов XMM-регистра в память

При копировании данных из памяти в XMM-регистр, два старших элемента этого регистра не изменяются. Линейный адрес соответствует адресу младшего байта группы данных в памяти.

MOVSS xmm/m, xmm/m - команда копирует один 32-рарядный FP-элемент одним из следующих способов:

• из памяти в младший элемент XMM-регистра
• из младшего элемента XMM-регистра в память
• из младшего элемента одного XMM-регистра в младший элемент другого XMM-регистра

При копировании 32 битов данных из памяти в XMM-регистр, все 96 оставшихся старших битов этого регистра обнуляются. Команда работает с адресом младшего байта группы данных в памяти.

Задание

Даны матрицы A, B размерностью 4´4. Найти A + B = Z

1. movaps xmm1, [a1]

2. movaps xmm2, [a2]

3. movaps xmm3, [a3]

4. movaps xmm4, [a4]

Последовательные команды movaps загружают из памяти элементы строк матрицы A в четыре XMM регистра xmm1..xmm4 поэлементно.

5. addps xmm1, [b1]

6. addps xmm2, [b2]

7. addps xmm3, [b3]

8. addps xmm4, [b4]

Команда addps складывает строки матриц B поэлементно с регистрами xmm1..xmm4.