Глубокое обучение пользовательские учебные циклы

Настройте циклы обучения глубокому обучению и функции потерь

Если trainingOptions функция не обеспечивает опции обучения, в которых вы нуждаетесь для своей задачи, или пользовательские выходные слои не поддерживают функции потерь, в которых вы нуждаетесь, затем можно задать пользовательский учебный цикл. Для сетей, которые не могут быть созданы с помощью графиков слоев, можно задать пользовательские сети как функцию. Чтобы узнать больше, смотрите, Задают Пользовательские Учебные Циклы, Функции потерь и Сети.

Функции

развернуть все

dlnetworkНейронная сеть для глубокого обучения для пользовательских учебных циклов
forwardВычислите нейронную сеть для глубокого обучения выход для обучения
predictВычислите нейронную сеть для глубокого обучения выход для вывода
adamupdateОбновите параметры с помощью адаптивной оценки момента (Адам)
rmspropupdate Обновите параметры с помощью корневого среднеквадратического распространения (RMSProp)
sgdmupdate Обновите параметры с помощью стохастического градиентного спуска с импульсом (SGDM)
dlupdate Обновите параметры с помощью пользовательской функции
minibatchqueueСоздайте мини-пакеты для глубокого обучения
onehotencodeЗакодируйте метки данных в одногорячие векторы
onehotdecodeДекодируйте векторы вероятности в метки класса
padsequencesЗаполните или обрежьте данные о последовательности до той же длины
initializeИнициализируйте настраиваемые параметры и параметры состояния dlnetwork
dlarrayМассив глубокого обучения для пользовательских учебных циклов
dlgradientВычислите градиенты для пользовательских учебных циклов с помощью автоматического дифференцирования
dlfevalОцените модель глубокого обучения для пользовательских учебных циклов
dimsМетки размерности dlarray
finddimНайдите размерности с заданной меткой
stripdimsУдалите dlarray формат данных
extractdataИзвлеките данные из dlarray
isdlarrayОпределите, является ли введенный dlarray
functionToLayerGraphПреобразуйте функцию модели глубокого обучения в график слоев
dlconvСвертка глубокого обучения
dltranspconvГлубокое обучение транспонировало свертку
lstmДолгая краткосрочная память
gruЗакрытый текущий модуль
embedВстройте дискретные данные
fullyconnectСуммируйте все взвешенные входные данные и примените смещение
dlode45Решение для глубокого обучения нежесткого обыкновенного дифференциального уравнения (ODE)
reluПримените исправленную линейную модульную активацию
leakyreluПримените текучую исправленную линейную модульную активацию
batchnormНормируйте данные через все наблюдения для каждого канала независимо
crosschannelnormМежканальный квадрат - нормирует использующие локальные ответы
groupnormНормируйте данные через сгруппированные подмножества каналов для каждого наблюдения независимо
instancenormНормируйте через каждый канал для каждого наблюдения независимо
layernormНормируйте данные через все каналы для каждого наблюдения независимо
avgpoolОбъедините данные к средним значениям по пространственным размерностям
maxpoolОбъедините данные к максимальному значению
maxunpoolНе объедините выход максимальной операции объединения
softmaxПримените softmax активацию, чтобы образовать канал размерность
sigmoidПримените сигмоидальную активацию
crossentropyПотеря перекрестной энтропии для задач классификации
l1lossПотеря L1 для задач регрессии
l2lossПотеря L2 для задач регрессии
huberУтрата Хубера для задач регрессии
mseПоловина среднеквадратической ошибки
ctcПотеря ассоциативной временной классификации (CTC) для невыровненной классификации последовательностей
dlaccelerateУскорьте функцию глубокого обучения для пользовательских учебных циклов
AcceleratedFunctionУскоренная функция глубокого обучения
clearCacheОчистите ускоренный кэш трассировки функции глубокого обучения

Темы

Пользовательские учебные циклы

Обучите модель глубокого обучения в MATLAB

Узнать, как к учебным моделям глубокого обучения в MATLAB®.

Задайте пользовательские учебные циклы, функции потерь и сети

Узнать, как задать и настроить циклы обучения глубокому обучению, функции потерь и сети с помощью автоматического дифференцирования.

Обучите сеть Используя пользовательский учебный цикл

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры с пользовательским расписанием скорости обучения.

Задайте опции обучения в пользовательском учебном цикле

Узнать, как задавать общие опции обучения в пользовательском учебном цикле.

Функция градиентов модели Define для пользовательского учебного цикла

Узнать, как, чтобы задать градиенты модели функционируют для пользовательского учебного цикла.

Обновите статистику нормализации партии. в пользовательском учебном цикле

В этом примере показано, как обновить сетевое состояние в пользовательском учебном цикле.

Сделайте Предсказания Используя Объект dlnetwork

В этом примере показано, как сделать предсказания с помощью dlnetwork объект путем разделения данных в мини-пакеты.

Обучите сеть на изображении и покажите данные

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры с помощью и изображения и входных данных функции.

Обучите сеть с несколькими Выходными параметрами

В этом примере показано, как обучить нейронную сеть для глубокого обучения с несколькими выходными параметрами, которые предсказывают и метки и углы вращений рукописных цифр.

Классифицируйте видео Используя глубокое обучение для пользовательского учебного цикла

В этом примере показано, как создать сеть для видео классификации путем объединения предварительно обученной модели классификации изображений и сети классификации последовательностей.

Обучите сеть классификации изображений, устойчивую к соперничающим примерам

В этом примере показано, как обучить нейронную сеть, которая устойчива к соперничающим примерам с помощью быстрого метода знака градиента (FGSM) соперничающее обучение.

Обучите нейронную сеть ОДУ

В этом примере показано, как обучить увеличенную нейронную сеть обыкновенного дифференциального уравнения (ODE).

Обучите устойчивую нейронную сеть для глубокого обучения с якобиевской регуляризацией

В этом примере показано, как обучить нейронную сеть, которая устойчива к соперничающим примерам с помощью якобиевской схемы [1] регуляризации.

Решите обыкновенное дифференциальное уравнение Используя нейронную сеть

В этом примере показано, как решить обыкновенное дифференциальное уравнение (ODE) с помощью нейронной сети.

Соберите несколько - Выходная сеть для предсказания

В этом примере показано, как собрать кратное выходная сеть для предсказания.

Запустите пользовательские учебные циклы на графическом процессоре и параллельно

Ускорьте пользовательские учебные циклы путем работы графического процессора в параллели с помощью нескольких графических процессоров, или в кластере.

Функции модели

Обучите сеть Используя функцию модели

В этом примере показано, как создать и обучить нейронную сеть для глубокого обучения при помощи функций, а не графика слоев или dlnetwork.

Обновите статистику нормализации партии. Используя функцию модели

В этом примере показано, как обновить сетевое состояние в сети, заданной как функция.

Сделайте предсказания Используя функцию модели

В этом примере показано, как сделать предсказания с помощью функции модели путем разделения данных в мини-пакеты.

Инициализируйте настраиваемые параметры для функции модели

Узнать, как инициализировать настраиваемые параметры для пользовательских учебных циклов с помощью функции модели.

Автоматическое дифференцирование

Список Функций с Поддержкой dlarray

Просмотрите список функций та поддержка dlarray объекты.

Автоматический фон дифференцирования

Узнать, как автоматическое дифференцирование работает.

Используйте автоматическое дифференцирование в Deep Learning Toolbox

Как использовать автоматическое дифференцирование в глубоком обучении.

Ускорение функции глубокого обучения

Ускорение функции глубокого обучения для пользовательских учебных циклов

Ускорьте функции модели и функции градиентов модели для пользовательских учебных циклов путем кэширования и многократного использования трассировок.

Ускорьте пользовательские учебные функции цикла

В этом примере показано, как ускорить глубокое обучение пользовательский учебный цикл и функции предсказания.

Проверяйте ускоренную функцию глубокого обучения Выходные параметры

В этом примере показано, как проверять, что выходные параметры ускоренных функций совпадают с выходными параметрами базовой функции.

Оцените эффективность ускоренной функции глубокого обучения

В этом примере показано, как оценить увеличение производительности использования ускоренной функции.

Рекомендуемые примеры