Exponenta Banner

getLearnRateFactor

Получите коэффициент скорости обучения слоя настраиваемого параметра

Свернуть все на странице

Синтаксис

factor = getLearnRateFactor(layer,parameterName)
factor = getLearnRateFactor(layer,parameterPath)
factor = getLearnRateFactor(dlnet,layerName,parameterName)
factor = getLearnRateFactor(dlnet,parameterPath)

Описание

пример

factor = getLearnRateFactor(layer,parameterName) возвращает коэффициент скорости обучения настраиваемого параметра с именем parameterName в layer.

Для встроенных слоев можно получить коэффициент скорости обучения непосредственно с помощью соответствующего свойства. Для примера, для convolution2dLayer слой, синтаксис factor = getLearnRateFactor(layer,'Weights') эквивалентно factor = layer.WeightLearnRateFactor.

пример

factor = getLearnRateFactor(layer,parameterPath) возвращает коэффициент скорости обучения для параметра, заданного путем parameterPath. Используйте этот синтаксис, когда параметр находится в dlnetwork объект в пользовательском слое.

пример

factor = getLearnRateFactor(dlnet,layerName,parameterName) возвращает коэффициент скорости обучения параметра с именем parameterName в слое с именем layerName для заданного dlnetwork объект.

пример

factor = getLearnRateFactor(dlnet,parameterPath) возвращает коэффициент скорости обучения для параметра, заданного путем parameterPath. Используйте этот синтаксис, когда параметр находится во вложенном слое.

Примеры

свернуть все

Открыть Live Script

Установите и получите коэффициент скорости обучения настраиваемого параметра пользовательского слоя PReLU.

Задайте пользовательский слой PReLU. Чтобы создать этот слой, сохраните файл preluLayer.m в текущей папке.

Создайте массив слоев, включая пользовательский слой preluLayer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    batchNormalizationLayer
    preluLayer(20,'prelu')
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer];

Установите коэффициент скорости обучения 'Alpha' настраиваемый параметр preluLayer к 2.

layers(4) = setLearnRateFactor(layers(4),'Alpha',2);

Просмотр обновленного коэффициента скорости обучения.

factor = getLearnRateFactor(layers(4),'Alpha')
factor = 2
Открыть Live Script

Установите и получите коэффициент скорости обучения настраиваемого параметра вложенного слоя.

Создайте слой остаточных блоков с помощью пользовательского слоя residualBlockLayer присоединенный к этому примеру как вспомогательный файл. Чтобы получить доступ к этому файлу, откройте этот пример как Live Script.

numFilters = 64;
layer = residualBlockLayer(numFilters)
layer = 
  residualBlockLayer with properties:

       Name: ''

   Learnable Parameters
    Network: [1x1 dlnetwork]

  Show all properties

Просмотрите слои вложенной сети.

layer.Network.Layers
ans = 
  7x1 Layer array with layers:

     1   'conv1'   Convolution           64 3x3 convolutions with stride [1  1] and padding 'same'
     2   'gn1'     Group Normalization   Group normalization
     3   'relu1'   ReLU                  ReLU
     4   'conv2'   Convolution           64 3x3 convolutions with stride [1  1] and padding 'same'
     5   'gn2'     Group Normalization   Group normalization
     6   'add'     Addition              Element-wise addition of 2 inputs
     7   'relu2'   ReLU                  ReLU

Установите коэффициент скорости обучения настраиваемого параметра 'Weights' слоя 'conv1' чтобы 2 использовать setLearnRateFactor функция.

factor = 2;
layer = setLearnRateFactor(layer,'Network/conv1/Weights',factor);

Получите обновленный коэффициент скорости обучения с помощью getLearnRateFactor функция.

factor = getLearnRateFactor(layer,'Network/conv1/Weights')
factor = 2
Открыть Live Script

Установите и получите коэффициент скорости обучения настраиваемого параметра dlnetwork объект.

Создайте dlnetwork объект.

layers = [
    imageInputLayer([28 28 1],'Normalization','none','Name','in')
    convolution2dLayer(5,20,'Name','conv')
    batchNormalizationLayer('Name','bn')
    reluLayer('Name','relu')
    fullyConnectedLayer(10,'Name','fc')
    softmaxLayer('Name','sm')];

lgraph = layerGraph(layers);

dlnet = dlnetwork(lgraph);

Установите коэффициент скорости обучения 'Weights' настраиваемый параметр слоя свертки к 2 с помощью setLearnRateFactor функция.

factor = 2;
dlnet = setLearnRateFactor(dlnet,'conv','Weights',factor);

Получите обновленный коэффициент скорости обучения с помощью getLearnRateFactor функция.

factor = getLearnRateFactor(dlnet,'conv','Weights')
factor = 2
Открыть Live Script

Установите и получите коэффициент скорости обучения настраиваемого параметра вложенного слоя в dlnetwork объект.

Создайте dlnetwork объект, содержащий пользовательский слой residualBlockLayer присоединенный к этому примеру как вспомогательный файл. Чтобы получить доступ к этому файлу, откройте этот пример как Live Script.

inputSize = [224 224 3];
numFilters = 32;
numClasses = 5;

layers = [
    imageInputLayer(inputSize,'Normalization','none','Name','in')
    convolution2dLayer(7,numFilters,'Stride',2,'Padding','same','Name','conv')
    groupNormalizationLayer('all-channels','Name','gn')
    reluLayer('Name','relu')
    maxPooling2dLayer(3,'Stride',2,'Name','max')
    residualBlockLayer(numFilters,'Name','res1')
    residualBlockLayer(numFilters,'Name','res2')
    residualBlockLayer(2*numFilters,'Stride',2,'IncludeSkipConvolution',true,'Name','res3')
    residualBlockLayer(2*numFilters,'Name','res4')
    residualBlockLayer(4*numFilters,'Stride',2,'IncludeSkipConvolution',true,'Name','res5')
    residualBlockLayer(4*numFilters,'Name','res6')
    globalAveragePooling2dLayer('Name','gap')
    fullyConnectedLayer(numClasses,'Name','fc')
    softmaxLayer('Name','sm')];

dlnet = dlnetwork(layers);

Просмотрите слои вложенной сети в слое 'res1'.

dlnet.Layers(6).Network.Layers
ans = 
  7x1 Layer array with layers:

     1   'conv1'   Convolution           32 3x3x32 convolutions with stride [1  1] and padding 'same'
     2   'gn1'     Group Normalization   Group normalization with 32 channels split into 1 groups
     3   'relu1'   ReLU                  ReLU
     4   'conv2'   Convolution           32 3x3x32 convolutions with stride [1  1] and padding 'same'
     5   'gn2'     Group Normalization   Group normalization with 32 channels split into 32 groups
     6   'add'     Addition              Element-wise addition of 2 inputs
     7   'relu2'   ReLU                  ReLU

Установите коэффициент скорости обучения настраиваемого параметра 'Weights' слоя 'conv1' чтобы 2 использовать setLearnRateFactor функция.

factor = 2;
dlnet = setLearnRateFactor(dlnet,'res1/Network/conv1/Weights',factor);

Получите обновленный коэффициент скорости обучения с помощью getLearnRateFactor функция.

factor = getLearnRateFactor(dlnet,'res1/Network/conv1/Weights')
factor = 2

Входные параметры

свернуть все

Входной слой, заданный как скалярное Layer объект.

Имя параметра, заданное как вектор символов или строковый скаляр.

Путь к параметру во вложенном слое, заданный как строковый скаляр или вектор символов. Вложенный слой является пользовательским слоем, который сам определяет график слоев как настраиваемый параметр.

Если вход в getLearnRateFactor является вложенным слоем, тогда путь параметра имеет вид "propertyName/layerName/parameterName", где:

  • propertyName - имя свойства, содержащего dlnetwork объект

  • layerName - имя слоя в dlnetwork объект

  • parameterName - имя параметра;

Если существует несколько уровней вложенных слоев, задайте каждый уровень с помощью формы "propertyName1/layerName1/.../propertyNameN/layerNameN/parameterName", где propertyName1 и layerName1 соответствуют слою во входе в getLearnRateFactor function, и последующие части соответствуют более глубоким уровням.

Пример: Для входа слоя в getLearnRateFactor, путь "Network/conv1/Weights" задает "Weights" параметр слоя с именем "conv1" в dlnetwork объект, заданный layer.Network.

Если вход в getLearnRateFactor является dlnetwork объект и требуемый параметр находится во вложенном слое, тогда путь параметра имеет вид "layerName1/propertyName/layerName/parameterName", где:

  • layerName1 - имя слоя в вход dlnetwork объект

  • propertyName - свойство слоя, содержащего dlnetwork объект

  • layerName - имя слоя в dlnetwork объект

  • parameterName - имя параметра;

Если существует несколько уровней вложенных слоев, задайте каждый уровень с помощью формы "layerName1/propertyName1/.../layerNameN/propertyNameN/layerName/parameterName", где layerName1 и propertyName1 соответствуют слою во входе в getLearnRateFactor function, и последующие части соответствуют более глубоким уровням.

Пример: Для dlnetwork вход в getLearnRateFactor, путь "res1/Network/conv1/Weights" задает "Weights" параметр слоя с именем "conv1" в dlnetwork объект, заданный layer.Network, где layer слой с именем "res1" в вход сети dlnet.

Типы данных: char | string

Сеть для пользовательских циклов обучения, заданная как dlnetwork объект.

Имя слоя, заданное как строковый скаляр или вектор символов.

Типы данных: char | string

Выходные аргументы

свернуть все

Коэффициент скорости обучения для параметра, возвращенный как неотрицательный скаляр.

Программа умножает этот коэффициент на глобальную скорость обучения, чтобы определить скорость обучения для заданного параметра. Для примера, если factor равен 2, тогда скорость обучения для заданного параметра в два раза превышает текущую глобальную скорость обучения. Программа определяет глобальную скорость обучения на основе настроек, заданных в trainingOptions функция.

См. также

| | | |

Темы

Введенный в R2017b

Документация по Deep Learning Toolbox

Поддержка