Глубокое обучение пользовательские учебные циклы

Настройте циклы обучения глубокому обучению и функции потерь

Если trainingOptions функция не обеспечивает опции обучения, в которых вы нуждаетесь для своей задачи, или пользовательские выходные слои не поддерживают функции потерь, в которых вы нуждаетесь, затем можно задать пользовательский учебный цикл. Для сетей, которые не могут быть созданы с помощью графиков слоев, можно задать пользовательские сети как функцию. Чтобы узнать больше, смотрите, Задают Пользовательские Учебные Циклы, Функции потерь и Сети.

Функции

развернуть все

dlnetworkНейронная сеть для глубокого обучения для пользовательских учебных циклов
forwardВычислите нейронную сеть для глубокого обучения выход для обучения
predictВычислите нейронную сеть для глубокого обучения выход для вывода
adamupdateОбновите параметры с помощью адаптивной оценки момента (Адам)
rmspropupdate Обновите параметры с помощью корневого среднеквадратического распространения (RMSProp)
sgdmupdate Обновите параметры с помощью стохастического градиентного спуска с импульсом (SGDM)
dlupdate Обновите параметры с помощью пользовательской функции
minibatchqueueСоздайте мини-пакеты для глубокого обучения
onehotencodeЗакодируйте метки данных в одногорячие векторы
onehotdecodeДекодируйте векторы вероятности в метки класса
dlarrayМассив глубокого обучения для пользовательских учебных циклов
dlgradientВычислите градиенты для пользовательских учебных циклов с помощью автоматического дифференцирования
dlfevalОцените модель глубокого обучения для пользовательских учебных циклов
dimsМетки размерности dlarray
finddimНайдите размерности с заданной меткой
stripdimsУдалите dlarray метки
extractdataИзвлеките данные из dlarray
isdlarrayОпределите, является ли введенный dlarray
functionToLayerGraphПреобразуйте функцию модели глубокого обучения в график слоев
dlconvСвертка глубокого обучения
dltranspconvГлубокое обучение транспонировало свертку
lstmДолгая краткосрочная память
gruЗакрытый текущий модуль
embedВстройте дискретные данные
fullyconnectСуммируйте все взвешенные входные данные и примените смещение
reluПримените исправленную линейную модульную активацию
leakyreluПримените текучую исправленную линейную модульную активацию
batchnormНормируйте каждый канал мини-пакета
crosschannelnormМежканальный квадрат - нормирует использующие локальные ответы
groupnormНормируйте активации через группы каналов
avgpoolОбъедините данные к средним значениям по пространственным размерностям
maxpoolОбъедините данные к максимальному значению
maxunpoolНе объедините выход максимальной операции объединения
softmaxПримените softmax активацию, чтобы образовать канал размерность
crossentropyПотеря перекрестной энтропии для задач классификации
sigmoidПримените сигмоидальную активацию
mseПоловина среднеквадратической ошибки

Темы

Пользовательские учебные циклы

Учебные модели глубокого обучения в MATLAB

Узнать, как к учебным моделям глубокого обучения в MATLAB®.

Задайте пользовательские учебные циклы, функции потерь и сети

Узнать, как задать и настроить циклы обучения глубокому обучению, функции потерь и сети с помощью автоматического дифференцирования.

Обучите сеть Используя пользовательский учебный цикл

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры с пользовательским расписанием скорости обучения.

Задайте опции обучения в пользовательском учебном цикле

Узнать, как задавать общие опции обучения в пользовательском учебном цикле.

Функция градиентов модели Define для пользовательского учебного цикла

Узнать, как, чтобы задать градиенты модели функционируют для пользовательского учебного цикла.

Обновите статистику нормализации партии. в пользовательском учебном цикле

В этом примере показано, как обновить сетевое состояние в пользовательском учебном цикле.

Сделайте Предсказания Используя Объект dlnetwork

В этом примере показано, как сделать предсказания с помощью dlnetwork объект путем разделения данных в мини-пакеты.

Обучите сеть на изображении и покажите данные

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры с помощью и изображения и входных данных функции.

Обучите сеть с несколькими Выходными параметрами

В этом примере показано, как обучить нейронную сеть для глубокого обучения с несколькими выходными параметрами, которые предсказывают и метки и углы вращений рукописных цифр.

Функции модели

Обучите сеть Используя функцию модели

В этом примере показано, как создать и обучить нейронную сеть для глубокого обучения при помощи функций, а не графика слоев или dlnetwork.

Обновите статистику нормализации партии. Используя функцию модели

В этом примере показано, как обновить сетевое состояние в сети, заданной как функция.

Сделайте предсказания Используя функцию модели

В этом примере показано, как сделать предсказания с помощью функции модели путем разделения данных в мини-пакеты.

Инициализируйте настраиваемые параметры для функций модели

Узнать, как инициализировать настраиваемые параметры для пользовательских учебных циклов с помощью функции модели.

Автоматическое дифференцирование

Список Функций с Поддержкой dlarray

Просмотрите список функций та поддержка dlarray объекты.

Автоматический фон дифференцирования

Узнать, как автоматическое дифференцирование работает.

Используйте автоматическое дифференцирование в Deep Learning Toolbox

Как использовать автоматическое дифференцирование в глубоком обучении.

Рекомендуемые примеры

Train Generative Adversarial Network (GAN)

Обучите Порождающую соперничающую сеть (GAN)

Обучите порождающую соперничающую сеть (GAN) генерировать изображения.

Скрипт Open Live Script
Train Conditional Generative Adversarial Network (CGAN)

Обучите Условную порождающую соперничающую сеть (CGAN)

Обучите условную порождающую соперничающую сеть (CGAN) генерировать изображения.

Скрипт Open Live Script
Train Fast Style Transfer Network

Обучите быструю сеть передачи стиля

Обучите сеть, чтобы передать стиль изображения к второму изображению. Это основано на архитектуре, заданной в [1].

Скрипт Open Live Script
Train Network Using Custom Training Loop

Обучите сеть Используя пользовательский учебный цикл

Обучите сеть, которая классифицирует рукописные цифры с пользовательским расписанием скорости обучения.

Скрипт Open Live Script
Train Network Using Model Function

Обучите сеть Используя функцию модели

Создайте и обучите нейронную сеть для глубокого обучения при помощи функций, а не графика слоев или dlnetwork. Преимуществом использования функций является гибкость, чтобы описать большое разнообразие сетей. Недостаток - то, что необходимо завершить больше шагов и подготовить данные тщательно. Этот пример использует изображения рукописных цифр с двойными целями классификации цифр и определения угла каждой цифры от вертикали.

Скрипт Open Live Script
Train a Siamese Network for Dimensionality Reduction

Обучите сиамскую сеть для сокращения размерности

Обучите сиамскую сеть, чтобы сравнить рукописные цифры с помощью сокращения размерности.

Скрипт Open Live Script
Train a Siamese Network to Compare Images

Обучите сиамскую сеть, чтобы сравнить изображения

Обучите сиамскую сеть, чтобы идентифицировать подобные изображения рукописных символов.

Скрипт Open Live Script
Image Captioning Using Attention

Отобразите ввод субтитров Используя внимание

Обучите модель глубокого обучения вводу субтитров изображений с помощью внимания.

Скрипт Open Live Script
Multilabel Text Classification Using Deep Learning

Классификация мультитекстов метки Используя глубокое обучение

Классифицируйте текстовые данные, которые имеют несколько независимых меток.

Скрипт Open Live Script
Sequence-to-Sequence Translation Using Attention

Перевод от последовательности к последовательности Используя внимание

Преобразуйте десятичные строки в Римские цифры с помощью модели декодера энкодера повторяющейся последовательности к последовательности с вниманием.

Скрипт Open Live Script
Sequence-to-Sequence Classification Using 1-D Convolutions

Классификация от последовательности к последовательности Используя 1D свертки

Классифицируйте каждый временной шаг данных о последовательности с помощью типовой временной сверточной сети (TCN).

Скрипт Open Live Script
Train Network in Parallel with Custom Training Loop

Обучите сеть параллельно с пользовательским учебным циклом

Настройте пользовательский учебный цикл, чтобы обучить сеть параллельно. В этом примере параллельные рабочие обучаются на фрагментах полного мини-пакета. Если у вас есть графический процессор, то обучение происходит на графическом процессоре. Во время обучения объект DataQueue передает информацию о процессе обучения обратно клиенту MATLAB.

Скрипт Open Live Script
Train Variational Autoencoder (VAE) to Generate Images

Обучите вариационный автоэнкодер (VAE) генерировать изображения

Создайте вариационный автоэнкодер (VAE) в MATLAB, чтобы сгенерировать изображения цифры. VAE генерирует нарисованные от руки цифры в стиле набора данных MNIST.

Скрипт Open Live Script
Train Network Using Cyclical Learning Rate for Snapshot Ensembling

Обучите сеть Используя циклическую скорость обучения для снимка состояния Ensembling

Обучите сеть, чтобы классифицировать изображения объектов с помощью циклического расписания скорости обучения и создать снимки ensembling для лучшей тестовой точности. В примере вы изучаете, как использовать косинусную функцию для расписания скорости обучения, взять снимки состояния сети во время обучения создать ансамбль модели и добавить регуляризацию L2-нормы (затухание веса) к учебной потере.

Скрипт Open Live Script

Документация Deep Learning Toolbox

Поддержка

Для просмотра документации необходимо авторизоваться на сайте