Уровень регрессии вычисляет потери в полусреднем квадрате для задач регрессии. Для типичных проблем регрессии уровень регрессии должен следовать за окончательным полностью соединенным слоем.
Для одного наблюдения среднеквадратичная ошибка задается следующим образом:
где R - количество откликов, ti - целевой выходной сигнал, и yi - предсказание сети для отклика i.
Для регрессионных сетей «изображение - последовательность - один» функция потерь регрессионного слоя представляет собой среднеквадратичную ошибку прогнозируемых откликов, не нормализованную по R:
Для регрессионных сетей «изображение-изображение» функция потерь регрессионного слоя представляет собой половину среднеквадратичной ошибки прогнозируемых откликов для каждого пикселя, не нормализованную по R:
где H, W и C обозначают высоту, ширину и количество каналов выхода, соответственно, и p-индексы в каждом элементе (пикселе) t и y линейно.
Для регрессионных сетей «последовательность-последовательность» функция потерь регрессионного слоя представляет собой половину среднеквадратичной ошибки прогнозируемых откликов для каждого временного шага, не нормализованную по R:
где S - длина последовательности.
При обучении программное обеспечение вычисляет средние потери по наблюдениям в мини-партии.
