Документация

Автоматическая инициализация обучаемых dlnetwork Объекты для обучения

Можно создать пользовательский слой и разрешить программному обеспечению автоматически инициализировать обучаемые параметры любого вложенного dlnetwork после полного создания родительской сети. Автоматическая инициализация вложенной сети означает, что нет необходимости отслеживать размер и форму входных данных, передаваемых каждому пользовательскому слою, содержащему вложенную сеть. dlnetwork

Чтобы воспользоваться преимуществами автоматической инициализации, необходимо указать, что функция конструктора создает неинициализированный dlnetwork объект. Создание неинициализированного dlnetwork объект, установите Initialize параметр name-value имеет значение false. Нет необходимости указывать входной слой, поэтому нет необходимости указывать входной размер слоя.

function layer = myLayer
    
    % Initialize layer properties.
    ...

    % Define network.
    layers = [
        % Network layers go here.
        ];

    layer.Network = dlnetwork(lgraph,'Initialize',false);
end

При инициализации родительской сети распознаваемые параметры любой вложенной сети dlnetwork объекты инициализируются одновременно. Размер обучаемых параметров зависит от размера входных данных пользовательского слоя. Программное обеспечение распространяет данные через вложенную сеть и автоматически инициализирует параметры в соответствии с распространяемыми размерами и свойствами инициализации уровней вложенной сети.

Если родительская сеть обучена с использованием trainNetwork функция, затем любая вложенная dlnetwork объекты инициализируются при вызове trainNetwork. Если родительская сеть является dlnetwork, то любой вложенный dlnetwork объекты инициализируются при создании родительской сети (если родительская сеть dlnetwork инициализируется при построении) или при использовании initialize функция с родительской сетью (если родительская сеть dlnetwork не инициализирован при построении).

Кроме того, вместо отсрочки инициализации вложенной сети можно создать пользовательский уровень с уже инициализированной вложенной сетью. Это означает, что вложенная сеть инициализируется перед родительской сетью Для этого необходимо вручную указать размер всех входов во вложенную сеть. Это можно сделать, используя входные слои или предоставив примеры входных данных для dlnetwork функция конструктора. Поскольку необходимо указать размеры любых входных данных для dlnetwork при создании слоя может потребоваться указать входные размеры. Для определения размера входных данных слоя можно использовать analyzeNetwork и проверьте размер активизаций предыдущих слоев.

Функции прогнозирования и пересылки

Некоторые слои ведут себя по-разному во время тренировки и во время прогнозирования. Например, уровень отсева выполняет отсев только во время обучения и не оказывает влияния во время прогнозирования. Уровень использует одну из двух функций для выполнения прямого прохода: predict или forward. Если прямой проход находится во время предсказания, то уровень использует predict функция. Если прямой проход находится во время тренировки, то уровень использует forward функция. Если для прогнозирования времени и времени обучения не требуются две различные функции, можно опустить forward функция. В этом случае слой использует predict во время обучения.

При реализации predict и forward функции пользовательского слоя, чтобы гарантировать, что слои в dlnetwork объект вести себя правильно, используйте predict и forward функции для dlnetwork соответственно.

Пользовательские слои с возможностью изучения dlnetwork объекты не поддерживают пользовательские обратные функции.

Необходимо по-прежнему назначать значение аргументу вывода памяти forward функция.

Этот пример кода показывает, как использовать predict и forward функции с dlnetwork вход.

function Z = predict(layer,X)

    % Convert input data to formatted dlarray.
    X = dlarray(X,'SSCB');

    % Predict using network.
    dlnet = layer.Network;
    Z = predict(dlnet,X);
            
    % Strip dimension labels.
    Z = stripdims(Z);
end

function [Z,memory] = forward(layer,X)

    % Convert input data to formatted dlarray.
    X = dlarray(X,'SSCB');

    % Forward pass using network.
    dlnet = layer.Network;
    Z = forward(dlnet,X);
            
    % Strip dimension labels.
    Z = stripdims(Z);

    memory = [];
end

Если dlnetwork объект не ведет себя иначе во время обучения и прогнозирования, тогда можно опустить функцию forward. В этом случае программное обеспечение использует predict выполнять функции во время обучения.

Поддерживаемые слои

Поддержка пользовательских слоев dlnetwork объекты, не требующие обновления состояния. Это означает, что dlnetwork объект не должен содержать слои, имеющие состояние, например, уровни пакетной нормализации и LSTM.

В этом списке показаны встроенные уровни, полностью поддерживающие сетевой состав.

Совместимость графического процессора

Если функции прямого уровня полностью поддерживают dlarray объекты, то слой совместим с GPU. В противном случае, чтобы быть совместимым с GPU, функции уровня должны поддерживать входы и обратные выходы типа gpuArray(Панель инструментов параллельных вычислений).

Поддержка многих встроенных функций MATLAB ® gpuArray(Панель инструментов параллельных вычислений) и dlarray входные аргументы. Список функций, поддерживающих dlarray см. Список функций с поддержкой dlarray. Список функций, выполняемых на графическом процессоре, см. в разделе Выполнение функций MATLAB на графическом процессоре (панель инструментов параллельных вычислений). Чтобы использовать графический процессор для глубокого обучения, необходимо также иметь поддерживаемое устройство графического процессора. Сведения о поддерживаемых устройствах см. в разделе Поддержка графического процессора по выпуску (Parallel Computing Toolbox). Дополнительные сведения о работе с графическими процессорами в MATLAB см. в разделе Вычисления графического процессора в MATLAB (Parallel Computing Toolbox).