Можно сгенерировать SIMD (одна инструкция, несколько данных) код от определенных функций MATLAB при помощи Intel AVX и Intel технология SSE. SIMD является вычислительной парадигмой, в которой одна инструкция обрабатывает несколько данных. Много современных процессоров имеют инструкции SIMD, которые, например, выполняют несколько сложений или умножения целиком. Для в вычислительном отношении интенсивных действий среди поддерживаемых функций внутренние параметры SIMD могут значительно улучшать производительность сгенерированного кода на платформах Intel.
Когда определенные условия соблюдают, можно сгенерировать код SIMD при помощи Intel SE или Intel технология AVX. В следующей таблице перечислены функции MATLAB та поддержка генерация кода SIMD. Таблица также детализирует условия, при которых поддержка доступна.
Функция MATLAB | Условия |
---|---|
plus |
|
minus |
|
times |
|
rdivide | Входной сигнал имеет тип данных single или double . |
sqrt | Входной сигнал имеет тип данных single или double . |
ceil |
|
floor |
|
max | Входной сигнал имеет тип данных |
min | Входной сигнал имеет тип данных |
Если у вас есть DSP System Toolbox™, можно сгенерировать код SIMD от определенных Системных объектов MATLAB. Для получения дополнительной информации смотрите Системные объекты в DSP System Toolbox который Поддержка Генерация кода SIMD (DSP System Toolbox).
Считайте функцию MATLAB dynamic
. Эта функция состоит из операций сложения и умножения между массивами переменного размера A
и B
. Эти массивы имеют тип данных single
и верхняя граница 100 x 100
.
function C = dynamic(A, B) assert(all(size(A) <= [100 100])); assert(all(size(B) <= [100 100])); assert(isa(A, 'single')); assert(isa(B, 'single')); C = zeros(size(A), 'like', A); for i = 1:numel(A) C(i) = (A(i) .* B(i)) + (A(i) .* B(i)); end end
Сгенерировать простой код С в командной строке:
Для C
генерация кода библиотеки, создайте coder.config
объект
cfg = coder.config('lib');
Сгенерировать статическую библиотеку в месте по умолчанию, codegen\lib\dynamic
, используйте codegen
функция t.
codegen('-config', cfg, 'dynamic');
В списке сгенерированных файлов нажмите dynamic.c
. В плоскости (non-SIMD) код С, каждая итерация цикла приводит к одному результату.
void dynamic(const float A_data[], const int A_size[2], const float B_data[], const int B_size[2], float C_data[], int C_size[2]) { float C_data_tmp; int i; int loop_ub; (void)B_size; C_size[0] = (signed char)A_size[0]; C_size[1] = (signed char)A_size[1]; loop_ub = (signed char)A_size[0] * (signed char)A_size[1]; if (0 <= loop_ub - 1) { memset(&C_data[0], 0, loop_ub * sizeof(float)); } loop_ub = A_size[0] * A_size[1]; for (i = 0; i < loop_ub; i++) { C_data_tmp = A_data[i] * B_data[i]; C_data[i] = C_data_tmp + C_data_tmp; } }
Сгенерировать C
SIMD код в командной строке:
Для C
генерация кода библиотеки, используйте coder.config
функция, чтобы создать coder.CodeConfig
объект.
cfg = coder.config('lib');
Установите coder.HardwareImplementation
объект TargetHWDeviceType
свойство к 'Intel->x86-64 (Linux 64)'
или 'Intel->x86-64 (Windows64)'
.
cfg.HardwareImplementation.TargetHWDeviceType = 'Intel->x86-64 (Windows64)';
Установите coder.HardwareImplementation
объект ProdHWDeviceType
свойство к 'Intel->x86-64 (Linux 64)'
или 'Intel->x86-64 (Windows64)'
cfg.HardwareImplementation.TargetHWDeviceType = 'Intel->x86-64 (Windows64)';
Если вы используете приложение MATLAB Coder, чтобы сгенерировать код:
Установите параметр Hardware Device на None-Select device below
.
Установите параметр Device vendor на Intel
или AMD
.
Установите Device type на Intel->x86-64 (Linux 64)
или Intel->x86-64 (Windows64)
.
Установите CodeReplacementLibrary
свойство к библиотеке Intel AVX или Intel SSE. Этот пример использует Intel SSE для Windows.
cfg.CodeReplacementLibrary = 'Intel SSE (Windows)';
Библиотека, которую вы выбираете, зависит, на котором расширении системы команд ваш процессор поддерживает.
Для получения дополнительной информации см. https://www.intel.com/content/www/us/en/support/articles/000005779/processors.html. Эта таблица списки, какие инструкции по внутреннему параметру Intel устанавливают каждую заменяющую библиотеку кода, содержит.
Заменяющая библиотека кода | Система команд внутреннего параметра Intel |
---|---|
Intel SSE | SSE, SSE2, SSE4.1 |
Intel AVX | SSE, SSE2, SSE4.1, AVX, AVX2 |
Intel AVX-512 | SSE, SSE2, SSE4.1, AVX, AVX2, AVX-512 |
Если вы используете приложение MATLAB Coder, чтобы сгенерировать код на вкладке Custom Code, установите параметр Code replacement library на библиотеку Intel SSE или Intel AVX.
Используйте codegen
функция, чтобы сгенерировать статическую библиотеку в месте по умолчанию, codegen\lib\dynamic
.
codegen('-config', cfg, 'dyanamic');
В списке сгенерированных файлов нажмите dynamic.c
.
void dynamic(const float A_data[], const int A_size[2], const float B_data[], const int B_size[2], float C_data[], int C_size[2]) { __m128 r; float C_data_tmp; int i; int loop_ub; int scalarLB; int vectorUB; (void)B_size; C_size[0] = (signed char)A_size[0]; C_size[1] = (signed char)A_size[1]; loop_ub = (signed char)A_size[0] * (signed char)A_size[1]; if (0 <= loop_ub - 1) { memset(&C_data[0], 0, loop_ub * sizeof(float)); } loop_ub = A_size[0] * A_size[1]; scalarLB = (loop_ub / 4) << 2; vectorUB = scalarLB - 4; for (i = 0; i <= vectorUB; i += 4) { r = _mm_mul_ps(_mm_loadu_ps(&A_data[i]), _mm_loadu_ps(&B_data[i])); _mm_storeu_ps(&C_data[i], _mm_add_ps(r, r)); } for (i = scalarLB; i < loop_ub; i++) { C_data_tmp = A_data[i] * B_data[i]; C_data[i] = C_data_tmp + C_data_tmp; } }
Инструкции SIMD являются встроенными функциями, которые начинают с идентификатора _mm
. Эти функции обрабатывают несколько данных в одной итерации цикла, потому что цикл постепенно увеличивается четыре для single
типы данных. For double
типы данных, цикл постепенно увеличивается два. Для кода MATLAB, который обрабатывает больше данных и более в вычислительном отношении интенсивен, чем код в этом примере, присутствие инструкций SIMD может значительно ускорить время выполнения кода.
Второй for
цикл находится в сгенерированном коде потому что for
цикл, который содержит код SIMD, должен быть делимым четыре для одного типов данных. Второй цикл обрабатывает остаток от данных.
Для списка Intel встроенные функции для поддерживаемых функций MATLAB см. https://software.intel.com/sites/landingpage/IntrinsicsGuide/.
Сгенерированный код, не содержит код SIMD, когда код MATLAB удовлетворяет этим условиям:
Скалярные операции вне цикла. Например, если a,b
, и c
скаляры, сгенерированный код не содержит код SIMD для операции, такой как c=a+b
.
Косвенно индексные массивы или матрицы. Например, если A,B,C
, и D
векторы, сгенерированный код не содержит код SIMD для операции, такой как D(A)=C(A)+B(A)
.
Параллельные циклы for (parfor
). parfor
цикл не содержит код SIMD, но циклы в теле parfor
цикл может содержать код SIMD.