Массив глубокого обучения для пользовательских учебных циклов
Массив глубокого обучения хранит данные с метками формата дополнительных данных для пользовательских учебных циклов и позволяет функциям вычислить и использовать производные посредством автоматического дифференцирования.
Совет
Для большинства задач глубокого обучения можно использовать предварительно обученную сеть и адаптировать ее к собственным данным. Для примера, показывающего, как использовать передачу обучения, чтобы переобучить сверточную нейронную сеть, чтобы классифицировать новый набор изображений, смотрите, Обучают Нейронную сеть для глубокого обучения Классифицировать Новые Изображения. В качестве альтернативы можно создать и обучить нейронные сети с нуля с помощью layerGraph объекты с trainNetwork и trainingOptions функции.
Если trainingOptions функция не обеспечивает опции обучения, в которых вы нуждаетесь для своей задачи, затем можно создать пользовательский учебный цикл с помощью автоматического дифференцирования. Чтобы узнать больше, смотрите, Задают Нейронную сеть для глубокого обучения для Пользовательских Учебных Циклов.
dlX = dlarray(X,fmt)dlX с размерностью помечает согласно формату данных в fmt. Размерность помечает справку мимоходом данными о глубоком обучении между функциями. Для получения дополнительной информации о метках размерности смотрите Использование. Если X отформатированный dlarray, затем fmt заменяет существующий формат.
dlarray форматы данных позволяют вам выполнить функции в следующей таблице с обеспечением, что данные имеют соответствующую форму.
| Функция | Операция | Подтверждает входную размерность | Влияет на размер входной размерности |
|---|---|---|---|
avgpool | Вычислите среднее значение входных данных по перемещению прямоугольного (или кубовидный) пространственный ('S') области заданы параметром размера пула. | 'S' | 'S' |
batchnorm | Нормируйте значения, содержавшиеся в каждом канале ('C') из входных данных. | 'C' | |
crossentropy | Вычислите перекрестную энтропию между оценками и целевыми значениями, усредненными размером пакета ('B') размерность. | 'S'CBTU (Оценки и целевые массивы должны иметь те же размеры.) | 'S'CBTU (Выход является бесформатным скаляром.) |
dlconv | Вычислите свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S') и (функция) канал ('C') размерности входа и добавление систематической ошибки. | 'S'C | 'S'C |
dltranspconv | Вычислите транспонированную свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S') и (функция) канал ('C') размерности входа и добавление систематической ошибки. | 'S'C | 'S'C |
fullyconnect | Вычислите взвешенную сумму входных данных и примените смещение для каждого пакета ('B') и время ('T') размерность. | 'S'CU | 'S'CBTU (Выведите, всегда имеет формат данных 'CB'ct , или 'CTB'.) |
gru | Примените закрытое текущее модульное вычисление к входным данным. | 'S'CT | 'C' |
lstm | Примените долгое краткосрочное вычисление памяти к входным данным. | 'S'CT | 'C' |
maxpool | Вычислите максимум входных данных по перемещению прямоугольного пространственный ('S') области заданы параметром размера пула. | 'S' | 'S' |
maxunpool | Вычислите операцию необъединения по пространственному ('S'Размерности. | 'S' | 'S' |
mse | Вычислите половину среднеквадратической ошибки между оценками и целевыми значениями, усредненными размером пакета ('B') размерность. | 'S'CBTU (Оценки и целевые массивы должны иметь те же размеры.) | 'S'CBTU (Выход является бесформатным скаляром.) |
softmax | Примените softmax активацию к каждому каналу ('C') из входных данных. | 'C' |
Эти функции требуют, чтобы каждая размерность имела метку. Можно задать формат этикетки размерности путем обеспечения первого входа как отформатированного dlarray, или при помощи 'DataFormat' аргумент значения имени функции.
dlarray осуществляет упорядоченное расположение метки размерности 'SCBTU'. Это осуществление устраняет неоднозначную семантику в операциях, которые неявно совпадают с метками между входными параметрами. dlarray также осуществляет это, размерность маркирует 'C'B, и 'T' может каждый появиться самое большее однажды. Функции, которые используют эти метки размерности, принимают самое большее одну размерность для каждой метки.
dlarray обеспечивает функции для получения формата данных, сопоставленного с dlarray (dims), удаляя формат данных (stripdims) и получение размерностей, сопоставленных с определенными метками размерности (finddim).
Для получения дополнительной информации о как dlarray ведет себя с форматами, смотрите Известные dlarray Поведения.
avgpool | Объедините данные к средним значениям по пространственным размерностям |
batchnorm | Нормируйте данные через все наблюдения для каждого канала независимо |
crossentropy | Потеря перекрестной энтропии для задач классификации |
dims | Метки размерности dlarray |
dlconv | Свертка глубокого обучения |
dlgradient | Вычислите градиенты для пользовательских учебных циклов с помощью автоматического дифференцирования |
dltranspconv | Глубокое обучение транспонировало свертку |
extractdata | Извлеките данные из dlarray |
finddim | Найдите размерности с заданной меткой |
fullyconnect | Суммируйте все взвешенные входные данные и примените смещение |
gru | Закрытый текущий модуль |
leakyrelu | Примените текучую исправленную линейную модульную активацию |
lstm | Долгая краткосрочная память |
maxpool | Объедините данные к максимальному значению |
maxunpool | Не объедините выход максимальной операции объединения |
mse | Половина среднеквадратической ошибки |
relu | Примените исправленную линейную модульную активацию |
sigmoid | Примените сигмоидальную активацию |
softmax | Примените softmax активацию, чтобы образовать канал размерность |
stripdims | Удалите dlarray формат данных |
dlarray также позволяет функции для числового, матрицы и других операций. Смотрите полный список в Списке Функций с Поддержкой dlarray.
A dlgradient вызов должен быть в функции. Чтобы получить числовое значение градиента, необходимо оценить функциональное использование dlfeval, и аргументом к функции должен быть dlarray. Смотрите использование автоматическое дифференцирование в Deep Learning Toolbox.
Включить правильную оценку градиентов, dlfeval должен вызвать функции, которые используют только поддерживаемые функции для dlarray. См. Список Функций с Поддержкой dlarray.
