Exponenta Banner

crossChannelNormalizationLayer

Слой нормализации локального отклика по каналам

развернуть все на странице

Описание

Слой нормализации локального отклика (перекрестного канала) канала выполняет нормализацию канала.

Создание

Синтаксис

layer = crossChannelNormalizationLayer(windowChannelSize)
layer = crossChannelNormalizationLayer(windowChannelSize,Name,Value)

Описание

layer = crossChannelNormalizationLayer(windowChannelSize) создает слой нормализации локального отклика по каналу и устанавливает WindowChannelSize свойство.

пример

layer = crossChannelNormalizationLayer(windowChannelSize,Name,Value) устанавливает необязательные свойства WindowChannelSize, Alpha, Beta, K, и Name использование пар "имя-значение". Для примера, crossChannelNormalizationLayer(5,'K',1) создает локальный слой нормализации отклика для нормализации по каналу с размером окна 5 и K гиперпараметром 1. Можно задать несколько пары "имя-значение". Заключайте каждое имя свойства в одинарные кавычки.

Свойства

расширить все

Межканальная нормализация

Размер окна канала, которое управляет количеством каналов, которые используются для нормализации каждого элемента, задается как положительное целое число.

Если WindowChannelSize является четным, тогда окно является асимметричным. Программа просматривает предыдущие floor((w-1)/2) каналы и следующие floor(w/2) каналы. Для примера, если WindowChannelSize равен 4, затем слой нормализует каждый элемент своим соседом в предыдущем канале и своими соседями в следующих двух каналах.

Пример: 5

α гиперпараметр в нормализации (член умножения), заданный как числовой скаляр.

Пример: 0.0002

β гиперпараметр в нормализации, заданный как числовой скаляр. Значение Beta должно быть больше или равно 0,01.

Пример: 0.8

K гиперпараметр в нормализации, заданный как числовой скаляр. Значение K должно быть больше или равно 10-5.

Пример: 2.5

Слой

Имя слоя, заданное как вектор символов или строковый скаляр. Чтобы включить слой в график слоев, необходимо задать непустое уникальное имя слоя. Если вы обучаете последовательную сеть с слоем и Name установлено в ''затем программа автоматически присваивает слою имя во время обучения.

Типы данных: char | string

Количество входов слоя. Этот слой принимает только один вход.

Типы данных: double

Входные имена слоя. Этот слой принимает только один вход.

Типы данных: cell

Количество выходов слоя. Этот слой имеет только один выход.

Типы данных: double

Выходные имена слоя. Этот слой имеет только один выход.

Типы данных: cell

Примеры

свернуть все

Открыть Live Script

Создайте локальный слой нормализации отклика для нормализации по каналу, где окно из пяти каналов нормализует каждый элемент, и аддитивную константу для нормализатора K равен 1.

layer = crossChannelNormalizationLayer(5,'K',1)
layer = 
  CrossChannelNormalizationLayer with properties:

                 Name: ''

   Hyperparameters
    WindowChannelSize: 5
                Alpha: 1.0000e-04
                 Beta: 0.7500
                    K: 1

Включите локальный слой нормализации отклика в Layer массив.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    crossChannelNormalizationLayer(3)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]
layers = 
  7x1 Layer array with layers:

     1   ''   Image Input                   28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution                   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                          ReLU
     4   ''   Cross Channel Normalization   cross channel normalization with 3 channels per element
     5   ''   Fully Connected               10 fully connected layer
     6   ''   Softmax                       softmax
     7   ''   Classification Output         crossentropyex

Ограничения

  • Этот слой не поддерживает входы 3-D изображений или входы вектора последовательности.

Подробнее о

расширить все

Ссылки

[1] Крижевский, А., И. Суцкевер, и Г. Е. Хинтон. «Классификация ImageNet с глубокими сверточными нейронными сетями». Усовершенствования в системах нейронной обработки информации. Том 25, 2012.

Расширенные возможности

Генерация кода C/C + +
Сгенерируйте код C и C++ с помощью Coder™ MATLAB ®

.

Генерация кода GPU
Сгенерируйте код CUDA ® для графических процессоров NVIDIA ® с помощью GPU Coder™

.

См. также

| |

Темы

Введенный в R2016a

Документация по Deep Learning Toolbox

Поддержка