Массив глубокого обучения для пользовательских учебных циклов
Массив глубокого обучения хранит данные с метками формата дополнительных данных для пользовательских учебных циклов и позволяет функциям вычислить и использовать производные посредством автоматического дифференцирования.
Совет
Для большинства задач глубокого обучения можно использовать предварительно обученную сеть и адаптировать ее к собственным данным. Для примера, показывающего, как использовать передачу обучения, чтобы переобучить сверточную нейронную сеть, чтобы классифицировать новый набор изображений, смотрите, Обучают Нейронную сеть для глубокого обучения Классифицировать Новые Изображения. В качестве альтернативы можно создать и обучить нейронные сети с нуля с помощью layerGraph объекты с trainNetwork и trainingOptions функции.
Если trainingOptions функция не обеспечивает опции обучения, в которых вы нуждаетесь для своей задачи, затем можно создать пользовательский учебный цикл с помощью автоматического дифференцирования. Чтобы узнать больше, смотрите, Задают Нейронную сеть для глубокого обучения для Пользовательских Учебных Циклов.
dlX = dlarray(X,fmt)dlX согласно формату данных в fmt. Метки помогают мимоходом данным о глубоком обучении между функциями. Смотрите Использование. Если X помеченный dlarray, затем fmt заменяет существующие метки.
dlarray метки позволяют вам использовать функции в этой таблице, чтобы выполниться с обеспечением, что данные имеют соответствующий формат.
| Функция | Операция | Подтверждает входную размерность | Влияет на размер входной размерности |
|---|---|---|---|
avgpool | Вычислите среднее значение входных данных по перемещению прямоугольного (или кубовидный) пространственный ('S') области заданы параметром размера пула. | 'S' | 'S' |
batchnorm | Нормируйте значения, содержавшиеся в каждом канале ('C') из входных данных. | 'C' | |
crossentropy | Вычислите перекрестную энтропию между оценками и целевыми значениями, усредненными размером пакета ('B') размерность. | 'S'CBTU (Оценки и целевые массивы должны иметь те же размеры.) | 'S'CBTU (Выход является непомеченным скаляром.) |
dlconv | Вычислите свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S') и (функция) канал ('C') размерности входа и добавление систематической ошибки. | 'S'C | 'S'C |
dltranspconv | Вычислите транспонированную свертку глубокого обучения входных данных с помощью массива фильтров, совпадая с количеством пространственных ('S') и (функция) канал ('C') размерности входа и добавление систематической ошибки. | 'S'C | 'S'C |
fullyconnect | Вычислите взвешенную сумму входных данных и примените смещение для каждого пакета ('B') и время ('T') размерность. | 'S'CU | 'S'CBTU (Выход всегда имеет, маркирует 'CB'ct , или 'CTB'.) |
gru | Примените закрытое текущее модульное вычисление к входным данным. | 'S'CT | 'C' |
lstm | Примените долгое краткосрочное вычисление памяти к входным данным. | 'S'CT | 'C' |
maxpool | Вычислите максимум входных данных по перемещению прямоугольного пространственный ('S') области заданы параметром размера пула. | 'S' | 'S' |
maxunpool | Вычислите операцию необъединения по пространственному ('S'Размерности. | 'S' | 'S' |
mse | Вычислите половину среднеквадратической ошибки между оценками и целевыми значениями, усредненными размером пакета ('B') размерность. | 'S'CBTU (Оценки и целевые массивы должны иметь те же размеры.) | 'S'CBTU (Выход является непомеченным скаляром.) |
softmax | Примените softmax активацию к каждому каналу ('C') из входных данных. | 'C' |
Эти функции требуют, чтобы каждая размерность имела метку, задал любого как метки их первого dlarray введите, или как 'DataFormat' аргумент пары "имя-значение", содержащий метки размерности.
dlarray осуществляет порядок, маркирует 'SCBTU'. Это осуществление устраняет неоднозначную семантику в операциях, которые неявно совпадают с метками между входными параметрами. dlarray также осуществляет, это маркирует 'C'B, и 'T' может каждый появиться самое большее однажды. Функции, которые используют эти метки, принимают самое большее одну размерность для каждой метки.
dlarray обеспечивает функции для удаления меток (stripdims), получая размерности, сопоставленные с метками (finddim), и листинг меток сопоставлен с dlarray (dims).
Для получения дополнительной информации о как dlarray ведет себя с метками, смотрите Известные dlarray Поведения.
avgpool | Объедините данные к средним значениям по пространственным размерностям |
batchnorm | Нормируйте каждый канал мини-пакета |
crossentropy | Потеря перекрестной энтропии для задач классификации |
dims | Метки размерности dlarray |
dlconv | Свертка глубокого обучения |
dlgradient | Вычислите градиенты для пользовательских учебных циклов с помощью автоматического дифференцирования |
dltranspconv | Глубокое обучение транспонировало свертку |
extractdata | Извлеките данные из dlarray |
finddim | Найдите размерности с заданной меткой |
fullyconnect | Суммируйте все взвешенные входные данные и примените смещение |
gru | Закрытый текущий модуль |
leakyrelu | Примените текучую исправленную линейную модульную активацию |
lstm | Долгая краткосрочная память |
maxpool | Объедините данные к максимальному значению |
maxunpool | Не объедините выход максимальной операции объединения |
mse | Половина среднеквадратической ошибки |
relu | Примените исправленную линейную модульную активацию |
sigmoid | Примените сигмоидальную активацию |
softmax | Примените softmax активацию, чтобы образовать канал размерность |
stripdims | Удалите dlarray метки |
dlarray также позволяет функции для числового, матрицы и других операций. Смотрите полный список в Списке Функций с Поддержкой dlarray.
A dlgradient вызов должен быть в функции. Чтобы получить числовое значение градиента, необходимо оценить функциональное использование dlfeval, и аргументом к функции должен быть dlarray. Смотрите использование автоматическое дифференцирование в Deep Learning Toolbox.
Включить правильную оценку градиентов, dlfeval должен вызвать функции, которые используют только поддерживаемые функции для dlarray. См. Список Функций с Поддержкой dlarray.
dims | dlfeval | dlgradient | dlnetwork | finddim | stripdims
