Графики для отображения во время сетевого обучения, заданные как один из следующих:

Индикатор для отображения информации о процессе обучения в командном окне, заданный как 1 (true) или 0 (false).

Отображаемая информация включает номер эпохи, номер итерации, истекшее время, потерю мини-пакета, точность мини-пакета и базовую скорость обучения. Когда вы обучаете регрессионую сеть, вместо точности показывается корневая средняя квадратная ошибка (RMSE). Если вы проверяете сеть во время обучения, отображаемая информация также включает потери валидации и точность валидации (или RMSE).

Типы данных: logical

Частота подробной печати, которая является количеством итераций между печатью в командное окно, задается как положительное целое число. Это свойство имеет эффект только тогда, когда Verbose значение равно true.

Если вы проверяете сеть во время обучения, то trainNetwork печатает в командном окне каждый раз, когда происходит валидация.

Максимальное количество эпох для обучения, заданное как положительное целое число.

Итерация является одним из шагов, предпринятых в алгоритме градиентного спуска, к минимизации функции потерь с помощью мини-пакета. Эпоха - это полный проход алгоритма настройки по всему набору обучающих данных.

Размер мини-пакета, используемого для каждой итерации обучения, заданный как положительное целое число. Мини-пакет является подмножеством набора обучающих данных, которое используется для вычисления градиента функции потерь и обновления весов.

Опция для перестановки данных, заданная как один из следующих:

Данные для проверки во время обучения, заданные как datastore, таблица или массив ячеек, содержащий предикторы и ответы валидации.

Можно задать предикторы и ответы валидации, используя те же форматы, поддерживаемые trainNetwork функция. Можно задать данные валидации как datastore, таблица или массив ячеек {predictors,responses}, где predictors содержит предикторы и responses валидации содержит ответы на валидацию.

Для получения дополнительной информации смотрите images, sequences, и features входные параметры trainNetwork функция.

Во время обучения, trainNetwork вычисляет точность валидации и потери валидации данных валидации. Чтобы задать частоту валидации, используйте 'ValidationFrequency' аргумент пары "имя-значение". Можно также использовать данные валидации, чтобы автоматически остановить обучение, когда потеря валидации прекращает уменьшаться. Чтобы включить автоматическую остановку валидации, используйте 'ValidationPatience' аргумент пары "имя-значение".

Если ваша сеть имеет слои, которые ведут себя по-другому во время предсказания, чем во время обучения (для примера, слоев отсева), то точность валидации может быть выше точности обучения (мини-пакета).

Данные валидации тасуются в соответствии с 'Shuffle' значение. Если на 'Shuffle' значение равно 'every-epoch'затем данные валидации перетасовываются перед каждой валидацией сети.

Частота валидации сети в количестве итераций, заданная как положительное целое число.

The ValidationFrequency значение является количеством итераций между оценками метрик валидации.

Терпение остановки валидации сетевого обучения, заданное как положительное целое или Inf.

The 'ValidationPatience' значение является количеством раз, когда потеря на наборе валидации может быть больше или равной ранее наименьшей потере до остановки сетевого обучения.

Начальная скорость обучения, используемая для обучения, задается как положительная скалярная величина. Если скорость обучения слишком низкий, то обучение занимает много времени. Если скорость обучения слишком высок, то обучение может достичь неоптимального результата.

Настройки расписания скорости обучения, заданные как структура. LearnRateScheduleSettings имеет поле Method, который задает тип метода для корректировки скорости обучения. Возможными методами являются:

Если Method является 'piecewise', затем LearnRateScheduleSettings содержит еще два поля:

Задайте настройки для скорости обучения по расписанию, используя trainingOptions.

Типы данных: struct

Коэффициент для _L2 регуляризатора (распад веса), заданный как неотрицательный скаляр.

Можно задать множитель для регулятора _L2 для слоев сети с настраиваемыми параметрами.

Скорость распада градиентного скользящего среднего значения, заданная как скаляр от 0 до 1. Для получения дополнительной информации о других решателях. Stochastic Gradient Descent.

Скорость распада квадратного градиента скользящего среднего значения, заданная как скаляр от 0 до 1. Для получения дополнительной информации о других решателях. Stochastic Gradient Descent.

Смещение знаменателя, заданное как положительная скалярная величина. Решатель добавляет смещение знаменателю в обновлениях сетевого параметра, чтобы избежать деления на нуль.

Опция сброса нормализации входного слоя, заданная как одно из следующего:

Режим для оценки статистики в слоях нормализации партии ., заданный как один из следующих:

Положительный порог для градиента, заданный как положительная скалярная величина или Inf. Когда градиент превышает значение GradientThreshold, затем градиент обрезается согласно GradientThresholdMethod.

Метод порога градиента, используемый для обрезки значений градиента, которые превышают порог градиента, заданный как одно из следующего:

Для получения дополнительной информации см. раздел «Обрезка градиента».

Опция для заполнения, усечения или разделения входных последовательностей, заданная как одно из следующего:

Чтобы узнать больше об эффекте заполнения, усечения и разделения входа последовательностей, смотрите Sequence Padding, Truncation и Splitting.

Направление заполнения или усечения, заданное как одно из следующего:

Потому что слои LSTM обрабатывают данные последовательности по одному временному шагу за раз, когда слой OutputMode свойство 'last'любое заполнение на последних временных шагах может отрицательно повлиять на выход слоя. Чтобы дополнить или обрезать данные последовательности слева, установите 'SequencePaddingDirection' опция для 'left'.

Для сетей «последовательность-последовательность» (когда OutputMode свойство 'sequence' для каждого слоя LSTM), любое заполнение в первые временные шаги может негативно повлиять на предсказания для более ранних временных шагов. Чтобы дополнить или обрезать данные последовательности справа, установите 'SequencePaddingDirection' опция для 'right'.

Чтобы узнать больше об эффекте заполнения, усечения и разделения входа последовательностей, смотрите Sequence Padding, Truncation и Splitting.

Значение, которым можно дополнить входные последовательности, заданное как скаляр. Опция действительна только при SequenceLength является 'longest' или положительное целое число. Не дополнять последовательности NaN, потому что это может распространять ошибки по сети.

Аппаратный ресурс для обучения сети, указанный как одно из следующего:

Дополнительные сведения о том, когда использовать различные окружения выполнения, см. в разделе Шкале глубокого обучения параллельно и в облаке.

'gpu', 'multi-gpu', и 'parallel' опции требуют Parallel Computing Toolbox™. Для использования графический процессор для глубокого обучения необходимо иметь также поддерживаемое графический процессор. Для получения информации о поддерживаемых устройствах смотрите Поддержку GPU by Release (Parallel Computing Toolbox). Если вы выбираете одну из этих опций и Parallel Computing Toolbox или подходящий графический процессор недоступен, то программное обеспечение возвращает ошибку.

Чтобы увидеть улучшение эффективности при параллельном обучении, попробуйте масштабировать MiniBatchSize и InitialLearnRate опции обучения по количеству графических процессоров.

Обучение сетей долгой краткосрочной памяти поддерживает только один центральный процессор или одно обучение графический процессор.

Задайте окружение выполнения используя trainingOptions.

Типы данных: char | string

Деление рабочей нагрузки для GPU или CPU, заданное как скаляр от 0 до 1, положительное целое число или числовой вектор. Это свойство имеет эффект только, когда ExecutionEnvironment значение равно 'multi-gpu' или 'parallel'.

Путь, в котором сохраняются сети контрольных точек, задается как вектор символов.

Типы данных: char

Выходные функции для вызова во время обучения, заданные как указатель на функцию или cell-массив указателей на функцию. trainNetwork вызывает указанные функции один раз до начала обучения, после каждой итерации и один раз после завершения обучения. trainNetwork передает структуру, содержащую информацию в следующих полях:

Если поле не вычисляется или не релевантно для определенного вызова выходных функций, то это поле содержит пустой массив.

Можно использовать выходные функции для отображения или построения графика информации о прогрессе или для остановки обучения. Чтобы остановить обучение раньше, заставьте вашу выходную функцию вернуться true. Если какая-либо выходная функция возвращается true, затем обучение заканчивает и trainNetwork возвращает последнюю сеть. Пример, показывающий использование выходных функций, см. в разделе Настройка выходе во время обучения по нейронной сети для глубокого обучения.

Типы данных: function_handle | cell