Размер градиента

Вектор градиента является градиентом суммы квадратов. Для неограниченных проблем размер градиента является максимумом абсолютного значения компонентов вектора градиента (также известный как норму по бесконечности градиента). Это должно быть нулем в точке минимизации.

Для проблем с границами размер градиента является максимумом по i |vi*gi |. Здесь gi является i th компонент градиента, x является текущей точкой, и

vi={|xibi|если  отрицательный градиент указывает на связанный bi1в противном случае.

Если xi в связанном, vi является нулем. Если xi не в связанном, то при минимизации указывают градиент, gi должен быть нулем. Поэтому размер градиента должен быть нулем в точке минимизации.

Для получения дополнительной информации смотрите Меру оптимальности Первого порядка.