clippedReluLayer

Подрезанный слой Rectified Linear Unit (ReLU)

Описание

Обрезанный слой ReLU выполняет операцию порога, где любое входное значение, меньше нуля, устанавливается равным нулю, а любое значение над усечением устанавливается равным этому усечению.

Эта операция эквивалентна:

f(x)={0,x<0x,0x<ceilingceiling,xceiling.

Это усечение препятствует тому, чтобы выход становился слишком большим.

Создание

Описание

layer = clippedReluLayer(ceiling) возвращает обрезанный слой ReLU с ограничивающим потолком, равным ceiling.

пример

layer = clippedReluLayer(ceiling,'Name',Name) устанавливает дополнительный Name свойство.

Свойства

расширить все

Обрезка ReLU

Потолок для входа усечения, заданный как положительная скалярная величина.

Пример: 10

Слой

Имя слоя, заданное как вектор символов или строковый скаляр. Чтобы включить слой в график слоев, необходимо задать непустое уникальное имя слоя. Если вы обучаете последовательную сеть с слоем и Name установлено в ''затем программа автоматически присваивает слою имя во время обучения.

Типы данных: char | string

Количество входов слоя. Этот слой принимает только один вход.

Типы данных: double

Входные имена слоя. Этот слой принимает только один вход.

Типы данных: cell

Количество выходов слоя. Этот слой имеет только один выход.

Типы данных: double

Выходные имена слоя. Этот слой имеет только один выход.

Типы данных: cell

Примеры

свернуть все

Создайте обрезанный слой ReLU с именем 'clip1' и подрезающий потолок равен 10.

layer = clippedReluLayer(10,'Name','clip1')
layer = 
  ClippedReLULayer with properties:

       Name: 'clip1'

   Hyperparameters
    Ceiling: 10

Включите обрезанный слой ReLU в Layer массив.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    clippedReluLayer(10)
    maxPooling2dLayer(2,'Stride',2)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]
layers = 
  7x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Clipped ReLU            Clipped ReLU with ceiling 10
     4   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected         10 fully connected layer
     6   ''   Softmax                 softmax
     7   ''   Classification Output   crossentropyex

Ссылки

[1] Hannun, Awni, Carl Case, Jared Casper, Bryan Catanzaro, Greg Diamos, Erich Elsen, Ryan Prenger, et al. Глубокая речь: масштабирование сквозного распознавания речи. Препринт, представленный 17 декабря 2014 года. http://arxiv.org/abs/1412.5567

Расширенные возможности

Генерация кода C/C + +
Сгенерируйте код C и C++ с помощью Coder™ MATLAB ®

.

Генерация кода GPU
Сгенерируйте код CUDA ® для графических процессоров NVIDIA ® с помощью GPU Coder™

.
Введенный в R2017b