Exponenta Banner

eluLayer

Экспоненциало линейного модуля (ELU)

развернуть все на странице

Описание

Слой активации ELU выполняет операцию тождеств на положительных входах и экспоненциальную нелинейность на отрицательных входах.

Слой выполняет следующую операцию:

f(x)={x,x≥0α(exp (x  ) - 1),x<0

Значение по умолчанию α является 1. Задайте значение α для слоя путем установки Alpha свойство.

Создание

Синтаксис

layer = eluLayer
layer = eluLayer(alpha)
layer = eluLayer(___,'Name',Name)

Описание

layer = eluLayer создает слой ELU.

layer = eluLayer(alpha) создает слой ELU и задает Alpha свойство.

пример

layer = eluLayer(___,'Name',Name) дополнительно устанавливает дополнительный Name свойство, использующее любой из предыдущих синтаксисов. Для примера, eluLayer('Name','elu1') создает слой ELU с именем 'elu1'.

Свойства

расширить все

ЭЛУ

Параметр нелинейности α, заданный как числовой скаляр. Минимальное значение выхода слоя ELU равняется -α и наклон при отрицательных входах, приближающихся к 0, равен α.

Слой

Имя слоя, заданное как вектор символов или строковый скаляр. Чтобы включить слой в график слоев, необходимо задать непустое уникальное имя слоя. Если вы обучаете последовательную сеть с слоем и Name установлено в ''затем программа автоматически присваивает слою имя во время обучения.

Типы данных: char | string

Количество входов слоя. Этот слой принимает только один вход.

Типы данных: double

Входные имена слоя. Этот слой принимает только один вход.

Типы данных: cell

Количество выходов слоя. Этот слой имеет только один выход.

Типы данных: double

Выходные имена слоя. Этот слой имеет только один выход.

Типы данных: cell

Примеры

свернуть все

Открыть Live Script

Создайте экспоненциало линейного модуля (ELU) с именем 'elu1' и значение по умолчанию 1 для параметра нелинейности Alpha.

layer = eluLayer('Name','elu1')
layer = 
  ELULayer with properties:

     Name: 'elu1'
    Alpha: 1

  Show all properties

Включите слой ELU в Layer массив.

layers = [
    imageInputLayer([28 28 1])
    convolution2dLayer(3,16)
    batchNormalizationLayer
    eluLayer
    
    maxPooling2dLayer(2,'Stride',2)
    convolution2dLayer(3,32)
    batchNormalizationLayer
    eluLayer
    
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]
layers = 
  11x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             16 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Batch Normalization     Batch normalization
     4   ''   ELU                     ELU with Alpha 1
     5   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     6   ''   Convolution             32 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     7   ''   Batch Normalization     Batch normalization
     8   ''   ELU                     ELU with Alpha 1
     9   ''   Fully Connected         10 fully connected layer
    10   ''   Softmax                 softmax
    11   ''   Classification Output   crossentropyex

Ссылки

[1] Клеверт, Джорк-Арне, Томас Унтертинер и Зепп Хохрейтер. «Быстрое и точное обучение в глубоких сетях путем экспоненциала линейных модулей (ELU)». arXiv preprint arXiv:1511.07289 (2015).

Расширенные возможности

Генерация кода C/C + +
Сгенерируйте код C и C++ с помощью Coder™ MATLAB ®

.

Генерация кода GPU
Сгенерируйте код CUDA ® для графических процессоров NVIDIA ® с помощью GPU Coder™

.

См. также

| | | | |

Темы

Введенный в R2019a

Документация по Deep Learning Toolbox

Поддержка