exponenta event banner

Специальные обучающие циклы глубокого обучения

Настройка циклов глубокого обучения и функций потери

Если trainingOptions функция не предоставляет возможности обучения, необходимые для выполнения задачи, или пользовательские выходные слои не поддерживают необходимые функции потери, после чего можно определить пользовательский цикл обучения. Для сетей, которые не могут быть созданы с помощью графиков слоев, можно определить пользовательские сети как функцию. Дополнительные сведения см. в разделе Определение пользовательских циклов обучения, функций потери и сетей.

Функции

развернуть все

dlnetworkСеть глубокого обучения для пользовательских циклов обучения
forwardВычислить выходные данные сети глубокого обучения для обучения
predictВычислить выходные данные сети глубокого обучения для вывода
adamupdateОбновление параметров с использованием адаптивной оценки момента (Адам)
rmspropupdate Обновление параметров с использованием среднеквадратичного распространения корня (RMSProp)
sgdmupdate Обновление параметров с помощью стохастического градиентного спуска с импульсом (SGDM)
dlupdate Обновление параметров с помощью пользовательской функции
minibatchqueueСоздание мини-пакетов для глубокого обучения
onehotencodeКодирование меток данных в одноконтурные векторы
onehotdecodeДекодирование векторов вероятности в метки класса
padsequencesВставка или усечение данных последовательности до одинаковой длины
initializeИнициализация обучаемых параметров и параметров состояния dlnetwork
dlarrayМассив глубокого обучения для пользовательских циклов обучения
dlgradientВычисление градиентов для пользовательских циклов обучения с помощью автоматического дифференцирования
dlfevalОценка модели глубокого обучения для пользовательских циклов обучения
dimsМетки размеров dlarray
finddimПоиск размеров с указанной меткой
stripdimsУдалить dlarray этикетки
extractdataИзвлечь данные из dlarray
isdlarrayОпределите, является ли ввод dlarray
functionToLayerGraphПреобразование функции модели глубокого обучения в график слоев
dlconvГлубокий учебный сверток
dltranspconvСвертка с транспонированным глубоким обучением
lstmДолговременная кратковременная память
gruСтробированная рекуррентная установка
embedВнедрение дискретных данных
fullyconnectСуммирование всех взвешенных входных данных и применение смещения
reluВключить выпрямленный линейный блок
leakyreluВключить выпрямленный линейный блок с утечкой
batchnormНормализовать все наблюдения для каждого канала независимо
crosschannelnormКвадратная нормализация перекрестного канала с использованием локальных ответов
groupnormНормализовать по сгруппированным подмножествам каналов для каждого наблюдения независимо
instancenormНормализовать каждый канал для каждого наблюдения независимо
layernormНезависимо нормализовать все каналы для каждого наблюдения
avgpoolОбъединение данных в средние значения по пространственным измерениям
maxpoolМаксимальное значение данных пула
maxunpoolРаспаковка выходных данных операции максимального объединения
softmaxПрименить активацию softmax к размеру канала
sigmoidПрименить сигмоидальную активацию
crossentropyПотери перекрестной энтропии для задач классификации
huberПотеря Huber для регрессионных задач
mseПоловина среднеквадратичной ошибки
ctcПотеря временной классификации соединений (CTC) для классификации неориентированных последовательностей
dlaccelerateУскорение функции глубокого обучения для пользовательских циклов обучения
AcceleratedFunctionУскоренная функция глубокого обучения
clearCacheОчистить ускоренный кэш трассировки функции глубокого обучения

Темы

Настраиваемые циклы обучения

Обучение модели глубокого обучения в MATLAB

Узнайте, как обучать модели глубокого обучения в MATLAB ®.

Определение пользовательских циклов обучения, функций потери и сетей

Узнайте, как определить и настроить циклы обучения, функции потери и сети с помощью автоматического дифференцирования.

Сеть поездов, использующая индивидуальный цикл обучения

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры с помощью пользовательского графика обучения.

Укажите параметры обучения в индивидуальном цикле обучения

Узнайте, как задать общие параметры обучения в индивидуальном цикле обучения.

Определение функции градиентов модели для пользовательского цикла обучения

Узнайте, как определить функцию градиентов модели для пользовательского цикла обучения.

Обновление статистики нормализации пакетов в индивидуальном цикле обучения

В этом примере показано, как обновить состояние сети в индивидуальном цикле обучения.

Составление прогнозов с помощью объекта dlnetwork

В этом примере показано, как делать прогнозы с помощью dlnetwork путем разделения данных на мини-пакеты.

Сеть поездов по изображениям и данным функций

В этом примере показано, как обучить сеть, которая классифицирует рукописные цифры, используя как изображение, так и входные данные функции.

Сеть поездов с несколькими выходами

В этом примере показано, как обучить сеть глубокого обучения с несколькими выходами, которые предсказывают как метки, так и углы поворота рукописных цифр.

Классифицировать видео с помощью глубокого обучения с помощью индивидуального обучающего цикла

В этом примере показано, как создать сеть для классификации видео путем объединения предварительно подготовленной модели классификации изображений и сети классификации последовательностей.

Сеть классификации изображений Train Устойчивые к состязательности Примеры

Этот пример показывает, как обучить нейронную сеть, которая устойчива к состязательным примерам с использованием метода быстрого градиентного знака (FGSM) состязательного обучения.

Обучение надежной сети глубокого обучения с якобинской регуляризацией

Этот пример показывает, как обучить нейронную сеть, которая устойчива к состязательным примерам, используя якобинскую схему регуляризации [1].

Функции модели

Сеть поездов с использованием функции модели

В этом примере показано, как создать и обучить сеть глубокого обучения с помощью функций, а не графа уровня или dlnetwork.

Обновление статистики нормализации пакета с помощью функции модели

В этом примере показано, как обновить состояние сети в сети, определенной как функция.

Составление прогнозов с помощью функции модели

В этом примере показано, как делать прогнозы с использованием функции модели путем разделения данных на мини-пакеты.

Инициализация обучаемых параметров для функции модели

Узнайте, как инициализировать обучаемые параметры для пользовательских циклов обучения с помощью функции модели.

Автоматическое дифференцирование

Список функций с поддержкой dlarray

Просмотр списка функций, поддерживающих dlarray объекты.

Фон автоматического дифференцирования

Узнайте, как работает автоматическое дифференцирование.

Использовать автоматическую дифференциацию в инструменте для глубокого обучения

Как использовать автоматическую дифференциацию в глубоком обучении.

Ускорение функции глубокого обучения

Ускорение функции глубокого обучения для пользовательских циклов обучения

Ускорение функций модели и функций градиентов модели для пользовательских циклов обучения путем кэширования и повторного использования трассировок.

Ускорение пользовательских функций цикла обучения

В этом примере показано, как ускорить процесс обучения и функции прогнозирования.

Проверка выходных данных функции ускоренного глубокого обучения

В этом примере показано, как проверить соответствие выходов ускоренных функций выходам базовой функции.

Оценка производительности функции ускоренного глубокого обучения

В этом примере показано, как оценить прирост производительности при использовании ускоренной функции.

Характерные примеры