exponenta event banner

leakyrelu

Включить выпрямленный линейный блок с утечкой

Описание

Операция активации выпрямленного линейного блока с утечкой (ReLU) выполняет нелинейную пороговую операцию, где любое входное значение меньше нуля умножается на фиксированный масштабный коэффициент.

Эта операция эквивалентна

f (x) ={x,x≥0scale*x,x<0.

Примечание

Эта функция применяет протекающую операцию ReLU к dlarray данные. Если требуется применить активацию ReLU с утечкой в пределах layerGraph объект или Layer используйте следующий слой:

пример

dlY = leakyrelu(dlX) вычисляет протекающую активацию ReLU входа dlX применяя пороговую операцию. Все значения в dlX меньше нуля умножаются на масштабный коэффициент по умолчанию, равный 0.01.

dlY = leakyrelu(dlX,scaleFactor) задает масштабный коэффициент для протекающей операции ReLU.

Примеры

свернуть все

Используйте leakyrelu для масштабирования отрицательных значений во входных данных.

Создайте входные данные как единое наблюдение случайных значений с высотой и шириной 12 и 32 каналов.

height = 12;
width = 12;
channels = 32;
observations = 1;

X = randn(height,width,channels,observations);
dlX = dlarray(X,'SSCB');

Вычислить протекающую активацию ReLU с использованием масштабного коэффициента 0.05 для отрицательных значений на входе.

dlY = leakyrelu(dlX,0.05);

Входные аргументы

свернуть все

Входные данные, указанные как dlarray с метками размеров или без них.

Типы данных: single | double

Масштабный коэффициент для отрицательных входных значений, заданный как числовой скаляр. Значение по умолчанию: 0.01.

Типы данных: single | double

Выходные аргументы

свернуть все

Протекающие активации ReLU, возвращенные как dlarray. Продукция dlY имеет тот же базовый тип данных, что и входной dlX.

Если входные данные dlX является отформатированным dlarray, dlY имеет те же метки размеров, что и dlX. Если входные данные не являются форматированными dlarray, dlY является неформатированным dlarray с тем же порядком размеров, что и входные данные.

Расширенные возможности

Представлен в R2019b