Exponenta Banner
exponenta event banner

crossChannelNormalizationLayer

Уровень нормализации локального отклика по каналам

развернуть все на странице

Описание

Канальный уровень локальной (кросс-канальной) нормализации выполняет канальную нормализацию.

Создание

Синтаксис

layer = crossStartNormalizationLayer (Размер файла окна)
layer = crossStartNormalizationLayer (размер окна, имя, значение)

Описание

layer = crossChannelNormalizationLayer(windowChannelSize) создает уровень нормализации локального ответа по каналам и устанавливает WindowChannelSize собственность.

пример

layer = crossChannelNormalizationLayer(windowChannelSize,Name,Value) устанавливает дополнительные свойства WindowChannelSize, Alpha, Beta, K, и Name используя пары имя-значение. Например, crossChannelNormalizationLayer(5,'K',1) создает уровень локальной нормализации отклика для канальной нормализации с размером окна 5 и К гиперпараметром 1. Можно указать несколько пар имя-значение. Заключите каждое имя свойства в отдельные кавычки.

Свойства

развернуть все

Кросс-канальная нормализация

Размер окна канала, которое управляет количеством каналов, используемых для нормализации каждого элемента, заданного как положительное целое число.

Если WindowChannelSize является четным, то окно асимметрично. Программное обеспечение просматривает предыдущее floor((w-1)/2) каналы и следующее floor(w/2) каналы. Например, если WindowChannelSize 4, то слой нормализует каждый элемент своим соседом в предыдущем канале и своими соседями в следующих двух каналах.

Пример: 5

α гиперпараметр в нормализации (член множителя), заданный как числовой скаляр.

Пример: 0.0002

β гиперпараметр в нормализации, заданный как числовой скаляр. Значение Beta должно быть больше или равно 0,01.

Пример: 0.8

Гиперпараметр K в нормализации, заданный как числовой скаляр. Значение K должно быть больше или равно 10-5.

Пример: 2.5

Слой

Имя слоя, указанное как символьный вектор или строковый скаляр. Чтобы включить слой в график слоев, необходимо указать непустое уникальное имя слоя. Если вы обучаете последовательную сеть с уровнем и Name имеет значение ''затем программа автоматически присваивает имя слою во время обучения.

Типы данных: char | string

Количество входов слоя. Этот слой принимает только один вход.

Типы данных: double

Входные имена слоя. Этот слой принимает только один вход.

Типы данных: cell

Количество выходов уровня. Этот уровень имеет только один выход.

Типы данных: double

Выходные имена слоя. Этот уровень имеет только один выход.

Типы данных: cell

Примеры

свернуть все

Открыть сценарий в реальном времени

Создайте уровень локальной нормализации отклика для канальной нормализации, где окно из пяти каналов нормализует каждый элемент, а аддитивная константа для нормализатора K равна 1.

layer = crossChannelNormalizationLayer(5,'K',1)
layer = 
  CrossChannelNormalizationLayer with properties:

                 Name: ''

   Hyperparameters
    WindowChannelSize: 5
                Alpha: 1.0000e-04
                 Beta: 0.7500
                    K: 1

Включение уровня локальной нормализации ответа в Layer массив.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    crossChannelNormalizationLayer(3)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]
layers = 
  7x1 Layer array with layers:

     1   ''   Image Input                   28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution                   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                          ReLU
     4   ''   Cross Channel Normalization   cross channel normalization with 3 channels per element
     5   ''   Fully Connected               10 fully connected layer
     6   ''   Softmax                       softmax
     7   ''   Classification Output         crossentropyex

Ограничения

  • Этот слой не поддерживает 3-D входы изображений или входы векторной последовательности.

Подробнее

развернуть все

Ссылки

[1] Крижевский, А., И. Суцкевер, Г. Э. Хинтон. «ImageNet Classification с глубокими сверточными нейронными сетями». Достижения в системах обработки нейронной информации. Том 25, 2012.

Расширенные возможности

Создание кода C/C + +
Создайте код C и C++ с помощью MATLAB ® Coder™

.

Создание кода графического процессора
Создание кода CUDA ® для графических процессоров NVIDIA ® с помощью Coder™ графических процессоров

.

См. также

| |

Темы

Представлен в R2016a

Документация по инструментам для глубокого обучения

Поддержка