Необходимые условия

Для получения информации об установке набора инструментов кросс-компилятора и настройке связанного переменного окружения смотрите Cross-Compile Deep Learning Code Который использует ARM Compute Library.

Версия библиотеки ARM Compute, которую использует этот пример, может быть не последней версией, которая поддержки генерацию кода. Для получения информации о поддерживаемых версиях библиотек и о переменных окружения, смотрите Необходимые условия для глубокого обучения с MATLAB Coder.

Код, линии в этом примере, комментируется. Раскомментируйте их перед запуском примера.

Этот пример не поддерживается в MATLAB Online.

The inception_predict_arm Функция точки входа

Этот пример использует Inception-V3 сеть классификации изображений. Предварительно обученная сеть Inception-V3 для MATLAB доступна в пакете поддержки Deep Learning Toolbox Model for Inception-V3 Network. The inception_predict_arm функция точки входа загружает Inception-V3 сеть в объект постоянной сети. При последующих вызовах функции постоянный объект используется повторно.

type inception_predict_arm

function out = inception_predict_arm(in)

persistent net;
if isempty(net)
    net = coder.loadDeepLearningNetwork('inceptionv3','inceptionv3');
end

out = net.predict(in);

end

Настройте объект строения глубокого обучения

Создайте coder.ARMNEONConfig объект. Укажите версию библиотеки ARM Compute.

dlcfg = coder.DeepLearningConfig('arm-compute');
dlcfg.ArmComputeVersion = '19.05';

Для классификации входа изображения peppers.pngпреобразуйте изображение в текстовый файл.

% generateImagetoTxt('peppers.png');

Первый подход: создайте статическую библиотеку для функции точки входа на хосте

В этом подходе вы сначала скомпилируете сгенерированный код, чтобы создать статическую библиотеку на хост-компьютер. Затем сгенерированная статическая библиотека, файлы библиотеки ARM Compute, make-файл и другие вспомогательные файлы передаются на целевой компьютер. Вы запускаете make-файл на целевом компьютере, чтобы сгенерировать исполняемый файл. Наконец, исполняемый файл запускается на целевом компьютере.

Настройка объекта строения генерации кода

Создайте объект строения генерации кода для статической библиотеки. Задайте целевой язык как C++.

cfg = coder.config('lib');
cfg.TargetLang = 'C++';

Присоедините объект строения глубокого обучения к объекту строения генерации кода.

cfg.DeepLearningConfig = dlcfg;

Сконфигурируйте набор инструментов Cross-Compiler

Сконфигурируйте набор инструментов кросс-компилятора на основе архитектуры ARM целевого устройства.

%   cfg.Toolchain =  'Linaro AArch64 Linux v6.3.1';% When the Arm Architecture is armv8

%   cfg.Toolchain =  'Linaro AArch32 Linux v6.3.1';% When the Arm Architecture is armv7

Сгенерируйте статическую библиотеку на Хост-компьютер при помощи codegen

Используйте codegen команда, чтобы сгенерировать код для функции точки входа, создать сгенерированный код и создать статическую библиотеку для целевой архитектуры ARM.

% codegen -config cfg inception_predict_arm -args {ones(299,299,3,'single')} -d arm_compute_cc_lib -report

Скопируйте сгенерированную Cross-Compiled статическую библиотеку на целевой компьютер

Скопируйте статическую библиотеку, файлы интервала и файлы заголовков из сгенерированной папки arm_compute_cc_lib к целевому оборудованию ARM. В этом коде и других линиях кода линий которые следуют, замените:

% system('sshpass -p password scp -r arm_compute_cc_lib/*.bin arm_compute_cc_lib/*.lib arm_compute_cc_lib/*.h arm_compute_cc_lib/*.hpp username@hostname:targetDir/');

Скопируйте файлы вычислительной библиотеки ARM на целевой компьютер

Исполняемый файл использует файлы библиотеки ARM Compute во время выполнения. Целевая плата не нуждается в файлах заголовков при генерации исполняемого файла и запуске исполняемого файла. Скопируйте библиотеку в нужный путь.

% system(['sshpass -p password scp -r ' fullfile(getenv('ARM_COMPUTELIB'),'lib') ' username@hostname:targetDir/']);

Копирование вспомогательных файлов на целевой компьютер

Скопируйте эти файлы на целевое оборудование ARM:

% system('sshpass -p password scp synsetWords.txt ./Makefile_Inceptionv3 ./inputimage.txt ./main_inception_arm.cpp username@hostname:targetDir/');

Создайте исполняемый файл на целевом компьютере

Скомпилируйте файл make на целевом компьютере, чтобы сгенерировать исполняемый файл из статической библиотеки. Этот make-файл связывает статическую библиотеку с основным файлом оболочки main_inception_arm.cpp и генерирует исполняемый файл.

% system('sshpass -p password ssh username@hostname "make -C targetDir -f Makefile_Inceptionv3 arm_inceptionv3 "');

Запуск исполняемого файла на целевом компьютере

Запустите сгенерированный исполняемый файл в целевой системе. Убедитесь, что экспортируйте LD_LIBRARY_PATH, который указывает на файлы библиотеки ARM Compute, во время выполнения исполняемого файла.

% system('sshpass -p password ssh username@hostname "export LD_LIBRARY_PATH=targetDir/lib; cd targetDir;./inception_predict_arm.elf inputimage.txt out.txt"');

Второй подход: создайте исполняемый файл для функции точки входа на хосте

В этом подходе вы сначала скомпилируете сгенерированный код, чтобы создать исполняемый файл на хост-компьютер. Затем сгенерированный исполняемый файл, файлы библиотеки ARM Compute и другие вспомогательные файлы передаются на целевой компьютер. Наконец, исполняемый файл запускается на целевом компьютере.

Настройка объекта строения генерации кода

Создайте объект строения генерации кода для генерации исполняемого файла. Установите целевой язык как C++.

cfg = coder.config('exe');
cfg.TargetLang = 'C++';

Присоедините объект строения глубокого обучения к объекту строения генерации кода.

cfg.DeepLearningConfig = dlcfg;

Объявить основной файл оболочки main_inception_arm.cpp как пользовательский исходный файл.

cfg.CustomSource = 'main_inception_arm.cpp';

Сконфигурируйте набор инструментов Cross-Compiler

Сконфигурируйте набор инструментов кросс-компилятора на основе архитектуры ARM целевого устройства.

%   cfg.Toolchain =  'Linaro AArch64 Linux v6.3.1'; % When the Arm Architecture is armv8,

%   cfg.Toolchain =  'Linaro AArch32 Linux v6.3.1';% When the Arm Architecture is armv7,

Сгенерируйте исполняемый файл на Хост-компьютер при помощи codegen

Используйте codegen команда для генерации кода для функции точки входа, создания сгенерированного кода и создания исполняемого файла для целевой архитектуры ARM.

% codegen -config cfg inception_predict_arm -args {ones(299,299,3,'single')} -d arm_compute_cc_exe -report

Скопируйте сгенерированный исполняемый файл на целевой компьютер

Скопируйте сгенерированный исполняемый файл и файлы интервала на целевое оборудование ARM. В этом коде и других линиях кода линий которые следуют, замените:

% system('sshpass -p password scp -r arm_compute_cc_exe/*.bin username@hostname:targetDir/');
% system('sshpass -p password scp inception_predict_arm.elf username@hostname:targetDir/');

Скопируйте файлы ARM Compute Library на целевой компьютер

Исполняемый файл использует файлы библиотеки ARM Compute во время выполнения. Он не использует заголовочные файлы во время выполнения. Скопируйте файлы библиотеки в нужный путь.

% system(['sshpass -p password scp -r ' fullfile(getenv('ARM_COMPUTELIB'),'lib') ' username@hostname:targetDir/']);

Копирование вспомогательных файлов на целевой компьютер

Скопируйте эти файлы на целевое оборудование ARM:

% system('sshpass -p password scp synsetWords.txt ./inputimage.txt ./main_inception_arm.cpp username@hostname:targetDir/');

Запуск исполняемого файла на целевом компьютере

Запустите сгенерированный исполняемый файл в целевой системе. Убедитесь, что экспортируйте LD_LIBRARY_PATH, который указывает на файлы библиотеки ARM Compute, во время выполнения исполняемого файла.

% system('sshpass -p password ssh username@hostname "export LD_LIBRARY_PATH=targetDir/lib; cd targetDir;./inception_predict_arm.elf inputimage.txt out.txt"');

Перенесите выходные данные из целевого устройства в MATLAB

Скопируйте сгенерированный выход обратно в текущий Сеанс работы с MATLAB на хост-компьютер.

% system('sshpass -p password scp username@hostname:targetDir/out.txt ./');

Сопоставить Предсказание Счетов с метками

Сопоставьте пять лучших счетов предсказания с соответствующими метками в обученной сети.

% outputImage = mapPredictionScores;

% Display the overlayed Image with Classification Scores.  

% imshow(outputImage);