Извлеките данные

В рабочей области извлеките набор данных MathWorks Merch. Это - небольшой набор данных, содержащий 75 изображений товаров MathWorks, принадлежа пяти различным классам (дно, куб, игра в карты, отвертка и факел).

unzip("MerchData.zip");

Выберите предварительно обученную сеть

Чтобы открыть Deep Network Designer, на вкладке Apps, под Машинным обучением и Глубоким обучением, кликают по значку приложения. В качестве альтернативы можно открыть приложение из командной строки:

deepNetworkDesigner

Deep Network Designer обеспечивает выбор предварительно обученных сетей классификации изображений, которые изучили богатые представления функции, подходящие для широкого спектра изображений. Передача обучения работает лучше всего, если ваши изображения похожи на изображения, первоначально раньше обучал сеть. Если ваши учебные изображения являются естественными изображениями как те в базе данных ImageNet, то любая из предварительно обученных сетей подходит. Для списка доступных сетей и как сравнить их, смотрите Предварительно обученные Глубокие нейронные сети.

Если ваши данные очень отличаются от данных ImageNet — например, если вы имеете крошечные изображения, спектрограммы, или не отображаете данные — обучение новой сети может быть лучше. Для примеров, показывающих, как обучить сеть с нуля, смотрите, Создают Простую Сеть Классификации Последовательностей Используя Deep Network Designer и Обучают Простую Сеть Семантической Сегментации в Deep Network Designer.

SqueezeNet не требует дополнительного пакета поддержки. Для других предварительно обученных сетей, если вам не установили необходимый пакет поддержки, затем приложение предоставляет возможность Установки.

Выберите SqueezeNet из списка предварительно обученных сетей и нажмите Open.

Исследуйте сеть

Deep Network Designer отображает уменьшивший масштаб представление целой сети в панели Разработчика.

Исследуйте сетевой график. Чтобы увеличить масштаб с мышью, используйте колесо Ctrl+scroll. К панорамированию используйте клавиши со стрелками, или удерживайте колесико прокрутки и перетащите мышь. Выберите слой, чтобы просмотреть его свойства. Отмените выбор всех слоев, чтобы просмотреть сетевые сводные данные в панели Свойств.

Импортируйте данные

Чтобы загрузить данные в Deep Network Designer, на вкладке Data, нажимают Import Data> Import Image Data. Диалоговое окно Import Image Data открывается.

В списке Источников данных выберите Folder. Нажмите Browse и выберите извлеченную папку MerchData.

Отобразите увеличение

Можно принять решение применить увеличение изображений к обучающим данным. Приложение Deep Network Designer предоставляет следующие возможности увеличения:

Можно эффективно увеличить сумму обучающих данных путем применения рандомизированного увеличения к данным. Увеличение также позволяет вам обучить нейронные сети, чтобы быть инвариантными к искажениям в данных изображения. Например, можно добавить рандомизированные вращения, чтобы ввести изображения так, чтобы сеть была инвариантной к присутствию вращения во входных изображениях.

В данном примере примените случайное отражение в оси X, случайное вращение из области значений [-90,90] степени и случайное перемасштабирование из области значений [1,2].

Данные о валидации

Можно также принять решение импортировать данные о валидации или путем разделения его от обучающих данных, или путем импорта его из другого источника. Валидация оценивает производительность модели на новых данных по сравнению с обучающими данными и помогает вам контролировать эффективность и защитить от сверхподбора кривой.

В данном примере используйте 30% изображений для валидации.

Нажмите Import, чтобы импортировать данные в Deep Network Designer.

Визуализируйте данные

Используя Deep Network Designer, можно визуально смотреть распределение данных об обучении и валидации во вкладке Data. Вы видите, что в этом примере существует пять классов в наборе данных. Можно также видеть случайные наблюдения от каждого класса.

Подготовьте сеть к обучению

Отредактируйте сеть в панели Разработчика, чтобы задать новое количество классов в ваших данных. Чтобы подготовить сеть к передаче обучения, замените последний learnable слой и итоговый слой классификации.

Замена последний слой Learnable

Чтобы использовать предварительно обученную сеть для передачи обучения, необходимо изменить количество классов, чтобы совпадать новым набором данных. Во-первых, найдите последний learnable слой в сети. Для SqueezeNet последний learnable слой является последним сверточным слоем, 'conv10'. В этом случае замените сверточный слой на новый сверточный слой с количеством фильтров, равных количеству классов.

Перетащите новый convolution2dLayer на холст. Чтобы совпадать с исходным сверточным слоем, установите FilterSize к 1,1.

NumFilters свойство задает количество классов для проблем классификации. Измените NumFilters к количеству классов в новых данных, в этом примере, 5.

Измените скорости обучения так, чтобы изучение было быстрее в новом слое, чем в переданных слоях установкой WeightLearnRateFactor и BiasLearnRateFactor к 10.

Удалите последний 2D сверточный слой и соедините свой новый слой вместо этого.

Замените Выходной слой

Для передачи обучения необходимо заменить выходной слой. Прокрутите в конец Библиотеки Слоя и перетащите новый classificationLayer на холст. Удалите исходный слой классификации и соедините свой новый слой в его месте.

Для нового выходного слоя вы не должны устанавливать OutputSize. В учебное время Deep Network Designer автоматически устанавливает выходные классы слоя из данных.

Проверяйте сеть

Чтобы проверять, что сеть готова к обучению, нажмите Analyze. Если Нейронная сеть для глубокого обучения нулевые ошибки отчетов Анализатора, то отредактированная сеть готова к обучению.

Обучение сети

В Deep Network Designer можно обучить нейронные сети импортированные или созданные в приложении.

Чтобы обучить сеть с настройками по умолчанию, на вкладке Training, нажимают Train. Опции обучения по умолчанию лучше подходят для больших наборов данных, поскольку небольшие наборы данных уменьшают мини-пакетный размер и частоту валидации.

Если вы хотите большее управление обучением, нажмите Training Options и выберите настройки, чтобы обучаться с.

В данном примере установите InitialLearnRate на 0.0001, ValidationFrequency к 5, и MaxEpochs к 8. Как существует 55 наблюдений, установите MiniBatchSize на 11 чтобы разделить обучающие данные равномерно и убедиться, вы используете целый обучающий набор данных в течение каждой эпохи. Для получения дополнительной информации о выборе опций обучения смотрите trainingOptions.

Чтобы обучить сеть с заданными опциями обучения, нажмите Close и затем нажмите Train.

Deep Network Designer позволяет вам визуализировать и контролировать процесс обучения. Можно затем отредактировать опции обучения и переобучить сеть при необходимости.

Экспортируйте результаты и сгенерируйте код MATLAB

Чтобы экспортировать сетевую архитектуру с обученными весами, на вкладке Training, выбирают Export> Export Trained Network и Results. Deep Network Designer экспортирует обучивший сеть как переменную trainedNetwork_1 и учебная информация как переменная trainInfoStruct_1.

trainInfoStruct_1

trainInfoStruct_1 = struct with fields:
               TrainingLoss: [4.2191 3.1255 2.6411 2.3362 3.1848 2.0195 1.2013 0.9902 1.8173 1.4625 0.8134 1.1901 0.8047 1.0542 0.7252 0.5411 0.5809 0.6819 0.4660 0.6830 0.7275 0.7365 0.4214 0.6107 0.2119 0.3021 0.3226 0.5457 0.1718 0.2522 0.1445 … ]
           TrainingAccuracy: [0 18.1818 9.0909 27.2727 18.1818 27.2727 45.4545 63.6364 36.3636 45.4545 63.6364 36.3636 63.6364 45.4545 63.6364 81.8182 81.8182 81.8182 81.8182 81.8182 81.8182 81.8182 100 72.7273 100 100 90.9091 72.7273 100 100 100 100 … ]
             ValidationLoss: [3.6204 NaN NaN NaN 2.4244 NaN NaN NaN NaN 1.7002 NaN NaN NaN NaN 1.0075 NaN NaN NaN NaN 0.7250 NaN NaN NaN NaN 0.5500 NaN NaN NaN NaN 0.4534 NaN NaN NaN NaN 0.4074 NaN NaN NaN NaN 0.3854]
         ValidationAccuracy: [10.0000 NaN NaN NaN 30 NaN NaN NaN NaN 50 NaN NaN NaN NaN 70 NaN NaN NaN NaN 80.0000 NaN NaN NaN NaN 80.0000 NaN NaN NaN NaN 90 NaN NaN NaN NaN 95 NaN NaN NaN NaN 95]
              BaseLearnRate: [1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 1.0000e-04 … ]
        FinalValidationLoss: 0.3854
    FinalValidationAccuracy: 95
     OutputNetworkIteration: 40

Можно также сгенерировать код MATLAB, который воссоздает сеть и используемые опции обучения. На вкладке Training выберите Export> Generate Code for Training. Исследуйте код MATLAB, чтобы изучить, как программно подготовить данные к обучению, создать сетевую архитектуру и обучить сеть.

Классифицируйте новое изображение

Загрузите новое изображение, чтобы классифицировать использование обучившего сеть.

I = imread("MerchDataTest.jpg");

Deep Network Designer изменяет размер изображений во время обучения совпадать с сетевым входным размером. Чтобы просмотреть сетевой входной размер, перейдите к Разработчику, разделяют на области и выбирают imageInputLayer (первый слой). Эта сеть имеет входной размер 227 227.

Измените размер тестового изображения, чтобы совпадать с сетевым входным размером.

I = imresize(I, [227 227]);

Классифицируйте тестовое изображение с помощью обучившего сеть.

[YPred,probs] = classify(trainedNetwork_1,I);
imshow(I)
label = YPred;
title(string(label) + ", " + num2str(100*max(probs),3) + "%");