exponenta event banner

eluLayer

Слой экспоненциальной линейной единицы (ЗЭС)

Описание

Уровень активации ЗЭС выполняет операцию идентификации на положительных входах и экспоненциальную нелинейность на отрицательных входах.

Слой выполняет следующую операцию:

f (x) ={x,x≥0α (exp ( x) - 1), x < 0

Значение по умолчанию α равно 1. Задайте значение α для слоя, установив значение Alpha собственность.

Создание

Описание

layer = eluLayer создает слой ЗЭС.

layer = eluLayer(alpha) создает слой ЗЭС и задает Alpha собственность.

пример

layer = eluLayer(___,'Name',Name) дополнительно устанавливает дополнительный Name с использованием любого из предыдущих синтаксисов. Например, eluLayer('Name','elu1') создает слой ЗЭС с именем 'elu1'.

Свойства

развернуть все

ЭЛУ

Параметр нелинейности α, заданный как числовой скаляр. Минимальное значение выхода слоя ЗЭС равно , а наклон при отрицательных входах, приближающихся к 0, равен α.

Слой

Имя слоя, указанное как символьный вектор или строковый скаляр. Чтобы включить слой в график слоев, необходимо указать непустое уникальное имя слоя. Если вы обучаете последовательную сеть с уровнем и Name имеет значение ''затем программа автоматически присваивает имя слою во время обучения.

Типы данных: char | string

Количество входов слоя. Этот слой принимает только один вход.

Типы данных: double

Входные имена слоя. Этот слой принимает только один вход.

Типы данных: cell

Количество выходов уровня. Этот уровень имеет только один выход.

Типы данных: double

Выходные имена слоя. Этот уровень имеет только один выход.

Типы данных: cell

Примеры

свернуть все

Создание слоя экспоненциальной линейной единицы (ЗЭС) с именем 'elu1' и значение по умолчанию 1 для параметра нелинейности Alpha.

layer = eluLayer('Name','elu1')
layer = 
  ELULayer with properties:

     Name: 'elu1'
    Alpha: 1

  Show all properties

Включение слоя ЗЭС в Layer массив.

layers = [
    imageInputLayer([28 28 1])
    convolution2dLayer(3,16)
    batchNormalizationLayer
    eluLayer
    
    maxPooling2dLayer(2,'Stride',2)
    convolution2dLayer(3,32)
    batchNormalizationLayer
    eluLayer
    
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]
layers = 
  11x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             16 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Batch Normalization     Batch normalization
     4   ''   ELU                     ELU with Alpha 1
     5   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     6   ''   Convolution             32 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     7   ''   Batch Normalization     Batch normalization
     8   ''   ELU                     ELU with Alpha 1
     9   ''   Fully Connected         10 fully connected layer
    10   ''   Softmax                 softmax
    11   ''   Classification Output   crossentropyex

Ссылки

[1] Клеверт, Джорк-Арне, Томас Унтертинер и Зепп Хохрайтер. «Быстрое и точное глубокое сетевое обучение по экспоненциальным линейным единицам (WELs)». arXiv preprint arXiv:1511.07289 (2015).

Расширенные возможности

Создание кода C/C + +
Создайте код C и C++ с помощью MATLAB ® Coder™

.

Создание кода графического процессора
Создание кода CUDA ® для графических процессоров NVIDIA ® с помощью Coder™ графических процессоров

.
Представлен в R2019a