Слой выпрямленного линейного блока (ReLU)
Уровень ReLU выполняет пороговую операцию для каждого элемента входа, где любое значение меньше нуля устанавливается равным нулю.
Эта операция эквивалентна
={x,x≥00,x<0.
[1] Наир, Винод и Джеффри Э. Хинтон. «Выпрямленные линейные блоки улучшают ограниченную работу машин boltzmann». В трудах 27-й международной конференции по машинному обучению (ICML-10), стр. 807-814. 2010.
batchNormalizationLayer | clippedReluLayer | Конструктор глубоких сетей | leakyReluLayer | swishLayer | trainNetwork