Глубокое обучение в Simulink Используя блок MATLAB function

Можно сгенерировать оптимизированный код для предсказания или обнаружения множества обученных нейронных сетей для глубокого обучения в моделях Simulink®. MATLAB Function (Simulink), блоки содержат код, который использует coder.loadDeepLearningNetwork функционируйте, чтобы загрузить модель глубокого обучения и создать и настроить класс CNN. Код также содержит вызовы predict или detect функции, чтобы предсказать/обнаружить ответы.. Сгенерированный код реализует глубокую сверточную нейронную сеть (CNN) при помощи архитектуры, слоев и параметров, которые вы задаете во входе SeriesNetwork (Deep Learning Toolbox) или DAGNetwork Объект (Deep Learning Toolbox).

Можно сконфигурировать генератор кода, чтобы использовать в своих интересах библиотеку глубокой нейронной сети NVIDIA® CUDA® (cuDNN) и высокоэффективные библиотеки вывода TensorRT™ для NVIDIA графические процессоры.

Можно сконфигурировать генератор кода, чтобы использовать в своих интересах Math Kernel Library Intel® для Глубоких нейронных сетей (MKL-DNN) при предназначении для процессоров Intel или Библиотеки ARM® Compute для компьютерного зрения и машинного обучения при предназначении для процессоров ARM.

Пример: классифицируйте изображения при помощи GoogLeNet

GoogLeNet был обучен на более чем миллионе изображений и может классифицировать изображения в 1 000 категорий объектов (таких как клавиатура, кофейная кружка, карандаш и животные). Сеть изучила богатые представления функции для широкого спектра изображений. Сеть берет изображение в качестве входа, и затем выводит метку для объекта в изображении вместе с вероятностями для каждой из категорий объектов. Этот пример показывает вам, как выполнить симуляцию и сгенерировать код CUDA для предварительно обученного googlenet глубокая сверточная нейронная сеть и классифицирует изображение. Предварительно обученные модели доступны как пакеты поддержки от Deep Learning Toolbox™.

  1. Загрузите предварительно обученную сеть GoogLeNet. Можно принять решение загрузить различную предварительно обученную сеть для классификации изображений. Если у вас нет необходимых пакетов поддержки установленными, установите программное обеспечение согласно предоставленным инструкциям.

    net = googlenet;

  2. Объект net содержит DAGNetwork объект. Используйте analyzeNetwork функционируйте, чтобы отобразить интерактивную визуализацию сетевой архитектуры, обнаружить ошибки и проблемы в сети, и отобразить подробную информацию о слоях сети. Информация о слое включает размеры активаций слоя и настраиваемых параметров, общего количества настраиваемых параметров и размеров параметров состояния текущих слоев.

    analyzeNetwork(net);

    Analyze network app showing network analysis of GoogLeNet.

  3. Изображение, которое вы хотите классифицировать, должно иметь тот же размер как входной размер сети. Для GoogLeNet, размера imageInputLayer 224 224 3. Classes свойство выхода classificationLayer содержит имена классов, изученных сетью. Просмотрите 10 случайных имен классов из общего количества 1 000.

    classNames = net.Layers(end).Classes;
numClasses = numel(classNames);
disp(classNames(randperm(numClasses,10)))

        'speedboat'
    'window screen'
    'isopod'
    'wooden spoon'
    'lipstick'
    'drake'
    'hyena'
    'dumbbell'
    'strawberry'
    'custard apple'

Создайте модель GoogLeNet

  1. Создайте новую модель Simulink и вставьте блок MATLAB Function из библиотеки User-Defined Functions.

  2. Добавьте блок Image From File (Computer Vision Toolbox) из библиотеки Computer Vision Toolbox™ и установите File name параметр к peppers.png. Добавьте блок Resize (Computer Vision Toolbox) от библиотеки Computer Vision Toolbox до модели. Установите параметр Specify блока Resize к Number of output rows and columns и введите [224 224] как значение для Number of output rows and columns. Этот бок изменит размер входного изображения к тому из входного слоя сети.

    Simulink model containing blocks for classifying images using GoogLeNet.

  3. Дважды кликните на блоке MATLAB Function. Функциональная подпись по умолчанию появляется в Редакторе Блока MATLAB Function.

  4. Задайте функцию под названием googlenet_predict, который реализует функцию точки входа предсказания. Функциональный заголовок объявляет in в качестве аргумента к googlenet_predict функция, с scores и indxTop как как возвращаемое значение. Сохраните документ Редактора к файлу.

    function [scores,indxTop] = googlenet_predict(in) %#codegen

persistent mynet;

if isempty(mynet)
    mynet = coder.loadDeepLearningNetwork('googlenet');
end

% pass in input   
predict_scores = predict(mynet,in);
[scores,indx] = sort(predict_scores, 'descend');
indxTop = indx(1:5);

    Постоянный объект mynet загружает DAGNetwork объект. В первом вызове функции точки входа постоянный объект создается и настраивается. На последующих вызовах функции тот же объект снова используется, чтобы вызвать predict на входных параметрах, избегая восстановления и перезагрузки сетевого объекта.

  5. Можно также использовать activations (Deep Learning Toolbox) метод к сетевым активациям для определенного слоя. Например, следующая строка кода возвращает сетевые активации для слоя, заданного в layerIdx.

    out = activations(mynet,in,layerIdx,'OutputAs','Channels');

  6. Можно также использовать classify (Deep Learning Toolbox) метод, чтобы предсказать класс помечает для данных изображения в in с помощью обучившего сеть, mynet. 

    [out,scores] = classify(mynet,in);

    Для сетей LSTM можно также использовать predictAndUpdateState (Deep Learning Toolbox) и resetState (Deep Learning Toolbox) методы. Для указаний и ограничений по применению их метод смотрите Поддерживаемые Функции.

  7. Щелкните правой кнопкой по блоку MATLAB Function и выберите Block Parameters (Subsystem).

  8. На вкладке Code Generation выберите Reusable function для Function packaging.

  9. Соедините эти блоки как показано в схеме. Сохраните модель как googlenetModel.

    Simulink model showing connection between the blocks.

Сконфигурируйте модель для ускорения графического процессора

Параметры конфигурации модели определяют ускоряющий метод, используемый в процессе моделирования.

  1. Откройте диалоговое окно Configuration Parameters, панель Solver. Чтобы скомпилировать вашу модель для ускорения и сгенерировать код CUDA, необходимо сконфигурировать модель, чтобы использовать решатель фиксированного шага. Следующая таблица показывает настройку решателя для этого примера.

    ПараметрУстановкаЭффект на сгенерированном коде
    TypeFixed-stepОбеспечивает постоянный (фиксированный) размер шага, который требуется для генерации кода
    Solverdiscrete (no continuous states)Применяет метод интегрирования фиксированного шага для вычисления производной состояния модели
    Fixed-step sizeautoSimulink выбирает размер шага

    Snapshot of the configuration parameters dialog showing solver options for simulation.

  2. Выберите панель Simulation Target. Установите Language на C++.

  3. Выберите GPU acceleration. GPU Coder™ определенные опции теперь отображается в панели Simulation Target > GPU Acceleration. В целях этого примера можно использовать значения по умолчанию этих параметров.

    GPU Acceleration pane on the configuration parameters dialog of the model.

  4. На панели Simulation Target. Установите Target Library в группе Deep learning к cuDNN. Можно также выбрать TensorRT.

    Snapshot of the configuration parameters dialog showing deep learning options for simulation acceleration.

  5. Нажмите OK, чтобы сохранить и закрыть диалоговое окно Configuration Parameters.

  6. Можно использовать set_param сконфигурировать программно параметр модели из командного окна MATLAB®. Например,

    set_param('googlenetModel','GPUAcceleration','on');

Создание графического процессора ускоренная модель

  1. Чтобы создать графический процессор ускоренная модель и симулировать его, можно запустить модель путем выбора Run на вкладке Simulation или путем выполнения команды:

    sim('googlenetModel');

    в подсказке MATLAB.

    Программное обеспечение сначала проверяет, чтобы видеть, был ли CUDA/C ++ код ранее скомпилирован для вашей модели. Если код был создан ранее, программное обеспечение запускает модель. Если код не был ранее создан, программное обеспечение сначала генерирует и компилирует CUDA/C ++ код, и затем запускает модель. Инструмент генерации кода помещает сгенерированный код в подпапку рабочей папки под названием slprj/_slprj/googlenetModel.

  2. Отобразите лучшие пять предсказанных меток и их связанные вероятности как гистограмма. Поскольку сеть классифицирует изображения в такое количество категорий объектов, и много категорий подобны, распространено рассмотреть лучшие пять точности при оценке сетей. Сеть классифицирует изображение как болгарский перец с высокой вероятностью.

    im = imread('peppers.png');
classNamesTop = classNames(out.yout{2}.Values.Data(:,:,1))

h = figure;
h.Position(3) = 2*h.Position(3);
ax1 = subplot(1,2,1);
ax2 = subplot(1,2,2);

image(ax1,im);
barh(ax2,out.yout{1}.Values.Data(1,5:-1:1,1))
xlabel(ax2,'Probability')
yticklabels(ax2,classNamesTop(5:-1:1))
ax2.YAxisLocation = 'right';
sgtitle('Top 5 predictions using GoogLeNet')

Сконфигурируйте модель для генерации кода

Параметры конфигурации модели предоставляют много возможностей для генерации кода и процесса сборки.

  1. Выберите панель Code Generation. Установите System target file на grt.tlc. Можно также использовать конечный файл Embedded Coder® ert.tlc.

  2. Установите Language на C++.

  3. Выберите Generate GPU code. GPU Coder определенные опции теперь отображается в панели Code Generation > GPU Code.

  4. Выберите Generate code only.

  5. Выберите Toolchain. Для Linux® платформы выбирают NVIDIA CUDA | gmake (64-bit Linux). Для систем Windows® выберите NVIDIA CUDA (w/Microsoft Visual C++ 20XX) | nmake (64-bit windows).

  6. На панели Code Generation > Report выберите Create code generation report и Open report automatically.

  7. На панели Code Generation > Interface, набор Target Library в группе Deep learning к cuDNN. Можно также выбрать TensorRT.

  8. В целях этого примера можно использовать значения по умолчанию специфичных для графического процессора параметров в панели Code Generation > GPU Code.

    GPU Code pane on the configuration parameters dialog of the model.

  9. Нажмите OK, чтобы сохранить и закрыть диалоговое окно Configuration Parameters.

  10. Можно также использовать set_param сконфигурировать программно параметр модели из Окна команды MATLAB. Например,

    set_param('googlenetModel','GenerateGPUCode','CUDA');

Сгенерируйте код CUDA для модели

  1. В Редакторе Simulink откройте приложение Simulink Coder.

  2. Сгенерируйте код.

    Сообщения появляются в Средстве просмотра Диагностики. Генератор кода производит исходные и заголовочные файлы CUDA и отчет генерации кода HTML. Генератор кода помещает файлы в папку сборки, подпапку под названием googlenetModel_grt_rtw под вашей текущей рабочей папкой.

  3. Пример сгенерированного кода CUDA.

     googlenetModel.cu

Ограничения

  • Генерация кода для нейронной сети для глубокого обучения с пользовательским слоем не поддерживается в Simulink.

  • Math Kernel Library Intel для Глубоких нейронных сетей (MKL-DNN) требует C++11 стандарт. Установка Target Library в группе Deep learning к MKL-DNN автоматически генерирует C++11 код.

  • Использование блоков MATLAB Function в графиках Stateflow® не поддерживается.

  • То, когда GPU acceleration включен, генератор кода не поддерживает Import custom code для импорта пользовательского, создало исходные файлы CUDA (*.cu). Вместо этого используйте coder.ceval в блоке MATLAB Function.

  • Для генерации кода графического процессора параметра Terminate function required в Code Generation> должна быть включена панель Interface.

  • Блок MATLAB Function не поддерживает все типы данных с языка MATLAB. Для поддерживаемых типов данных обратитесь к документации блока.

Смотрите также

Функции

Похожие темы

Документация GPU Coder

Поддержка

Для просмотра документации необходимо авторизоваться на сайте