Массив глубокого обучения для пользовательских учебных циклов
Массив глубокого обучения хранит данные с метками формата дополнительных данных для пользовательских учебных циклов и позволяет функциям вычислить и использовать производные посредством автоматического дифференцирования.
Совет
Для большинства задач глубокого обучения можно использовать предварительно обученную сеть и адаптировать ее к собственным данным. Для примера, показывающего, как использовать передачу обучения, чтобы переобучить сверточную нейронную сеть, чтобы классифицировать новый набор изображений, смотрите, Обучают Нейронную сеть для глубокого обучения Классифицировать Новые Изображения. В качестве альтернативы можно создать и обучить нейронные сети с нуля с помощью layerGraph
объекты с trainNetwork
и trainingOptions
функции.
Если trainingOptions
функция не обеспечивает опции обучения, в которых вы нуждаетесь для своей задачи, затем можно создать пользовательский учебный цикл с помощью автоматического дифференцирования. Чтобы узнать больше, смотрите, Задают Нейронную сеть для глубокого обучения для Пользовательских Учебных Циклов.
помечает данные в dlX
= dlarray(X
,fmt
)dlX
согласно формату данных в fmt
. Метки помогают мимоходом данным о глубоком обучении между функциями. Смотрите Использование. Если X
помеченный dlarray
, затем fmt
заменяет существующие метки.
dlarray
метки позволяют вам использовать функции в этой таблице, чтобы выполниться с обеспечением, что данные имеют соответствующий формат.
Функция | Операция | Подтверждает входную размерность | Влияет на размер входной размерности |
---|---|---|---|
avgpool | Вычислите среднее значение входных данных по перемещению прямоугольного (или кубовидный) пространственный ('S' ) области заданы параметром размера пула. | 'S' | 'S' |
batchnorm | Нормируйте значения, содержавшиеся в каждом канале ('C' ) из входных данных. | 'C' | |
crossentropy | Вычислите перекрестную энтропию между оценками и целевыми значениями, усредненными размером пакета ('B' ) размерность. | 'S' C B T U (Оценки и целевые массивы должны иметь те же размеры.) | 'S' C B T U (Выход является непомеченным скаляром.) |
dlconv | Вычислите свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S' ) и (функция) канал ('C' ) размерности входа и добавление систематической ошибки. | 'S' C | 'S' C |
dltranspconv | Вычислите транспонированную свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S' ) и (функция) канал ('C' ) размерности входа и добавление систематической ошибки. | 'S' C | 'S' C |
fullyconnect | Вычислите взвешенную сумму входных данных и примените смещение для каждого пакета ('B' ) и время ('T' ) размерность. | 'S' C U | 'S' C B T U (Выход всегда имеет, маркирует 'CB' ct , или 'CTB' .) |
gru | Примените закрытое текущее модульное вычисление к входным данным. | 'S' C T | 'C' |
lstm | Примените долгое краткосрочное вычисление памяти к входным данным. | 'S' C T | 'C' |
maxpool | Вычислите максимум входных данных по перемещению прямоугольного пространственный ('S' ) области заданы параметром размера пула. | 'S' | 'S' |
maxunpool | Вычислите операцию необъединения по пространственному ('S' Размерности. | 'S' | 'S' |
mse | Вычислите половину среднеквадратической ошибки между оценками и целевыми значениями, усредненными размером пакета ('B' ) размерность. | 'S' C B T U (Оценки и целевые массивы должны иметь те же размеры.) | 'S' C B T U (Выход является непомеченным скаляром.) |
softmax | Примените softmax активацию к каждому каналу ('C' ) из входных данных. | 'C' |
Эти функции требуют, чтобы каждая размерность имела метку, задал любого как метки их первого dlarray
введите, или как 'DataFormat'
аргумент пары "имя-значение", содержащий метки размерности.
dlarray
осуществляет порядок, маркирует 'SCBTU'
. Это осуществление устраняет неоднозначную семантику в операциях, которые неявно совпадают с метками между входными параметрами. dlarray
также осуществляет, это маркирует 'C'
B
, и 'T'
может каждый появиться самое большее однажды. Функции, которые используют эти метки, принимают самое большее одну размерность для каждой метки.
dlarray
обеспечивает функции для удаления меток (stripdims
), получая размерности, сопоставленные с метками (finddim
), и листинг меток сопоставлен с dlarray
(dims
).
Для получения дополнительной информации о как dlarray
ведет себя с метками, смотрите Известные dlarray Поведения.
avgpool | Объедините данные к средним значениям по пространственным размерностям |
batchnorm | Нормируйте каждый канал мини-пакета |
crossentropy | Потеря перекрестной энтропии для задач классификации |
dims | Метки размерности dlarray |
dlconv | Свертка глубокого обучения |
dlgradient | Вычислите градиенты для пользовательских учебных циклов с помощью автоматического дифференцирования |
dltranspconv | Глубокое обучение транспонировало свертку |
extractdata | Извлеките данные из dlarray |
finddim | Найдите размерности с заданной меткой |
fullyconnect | Суммируйте все взвешенные входные данные и примените смещение |
gru | Закрытый текущий модуль |
leakyrelu | Примените текучую исправленную линейную модульную активацию |
lstm | Долгая краткосрочная память |
maxpool | Объедините данные к максимальному значению |
maxunpool | Не объедините выход максимальной операции объединения |
mse | Половина среднеквадратической ошибки |
relu | Примените исправленную линейную модульную активацию |
sigmoid | Примените сигмоидальную активацию |
softmax | Примените softmax активацию, чтобы образовать канал размерность |
stripdims | Удалите dlarray метки |
dlarray
также позволяет функции для числового, матрицы и других операций. Смотрите полный список в Списке Функций с Поддержкой dlarray.
A dlgradient
вызов должен быть в функции. Чтобы получить числовое значение градиента, необходимо оценить функциональное использование dlfeval
, и аргументом к функции должен быть dlarray
. Смотрите использование автоматическое дифференцирование в Deep Learning Toolbox.
Включить правильную оценку градиентов, dlfeval
должен вызвать функции, которые используют только поддерживаемые функции для dlarray
. См. Список Функций с Поддержкой dlarray.
dims
| dlfeval
| dlgradient
| dlnetwork
| finddim
| stripdims