Проверка валидности градиентов или якобианов

Проверяйте градиент или якобиан в целевой функции

Много решателей позволяют вам предоставлять функцию, которая вычисляет первые производные (градиенты или Якобианы) ограничительных функций или цели. Можно проверять ли производные, вычисленные функциональными приближениями конечной разности соответствия. Эта проверка может помочь вам диагностировать, правильна ли ваша производная функция.

Если компонент функции градиента меньше 1, “соответствие” означает абсолютную разность функции градиента, и приближение конечной разности того компонента меньше 1e-6.
В противном случае “соответствие” означает, что относительная разница меньше 1e-6.

CheckGradients опция заставляет решатель проверять предоставленную производную по приближению конечной разности во всего одной точке. Если конечная разность и предоставленные производные не соответствуют, ошибки решателя. Если производные соответствуют к в 1e-6, решатель сообщает о расчетных различиях и продолжает выполнять итерации без дальнейших производных проверок. Решатели проверяют соответствие в точке, которая является небольшим случайным возмущением начальной точки x0, измененный, чтобы быть в любых границах. Решатели не включают расчеты для CheckGradients в функциональном количестве; смотрите Итерации и Функциональные количества.

Как проверять производные

В командной строке MATLAB^®:
1. Установите SpecifyObjectiveGradient или SpecifyConstraintGradient опции к true использование optimoptions. Убедитесь ваша цель или ограничительные функции предоставляют соответствующие производные.
2. Установите CheckGradients опция к true.
Используя приложение Оптимизации:
1. В панели Problem Setup and Results выберите Derivatives: Objective function: Gradient supplied или Nonlinear constraint function: Derivatives: Gradient supplied. Убедитесь ваша цель или ограничительные функции предоставляют соответствующие производные.
2. В панели Options проверяйте User-supplied derivatives > Validate user-supplied derivatives

Центральные конечные разности более точны, чем прямые конечные разности по умолчанию. Использовать центральные конечные разности:

В командной строке MATLAB, набор FiniteDifferenceType опция к 'central' использование optimoptions.
Используя приложение Оптимизации, в панели Approximated derivatives, устанавливает Type на central differences.

Пример: проверка производных функций цели и ограничения

Цель и ограничительные функции
Проверка производных в командной строке
Проверка производных с приложением оптимизации

Цель и ограничительные функции

Полагайте, что проблема минимизации Функции Розенброка в единичном диске как описано в Решает Ограниченную Нелинейную задачу, Основанную на решателе. rosenboth функция вычисляет целевую функцию и ее градиент:

function [f g H] = rosenboth(x)

f = 100*(x(2) - x(1)^2)^2 + (1-x(1))^2;

if nargout > 1
    g = [-400*(x(2)-x(1)^2)*x(1)-2*(1-x(1));
        200*(x(2)-x(1)^2)];
    
    if nargout > 2
        H = [1200*x(1)^2-400*x(2)+2, -400*x(1);
            -400*x(1), 200];  
    end
end

rosenboth вычисляет Гессиан также, но этот пример не использует Гессиан.

unitdisk2 функция правильно вычисляет ограничительную функцию и ее градиент:

function [c,ceq,gc,gceq] = unitdisk2(x)
c = x(1)^2 + x(2)^2 - 1;
ceq = [ ];

if nargout > 2
    gc = [2*x(1);2*x(2)];
    gceq = [];
end

unitdiskb функция неправильно вычисляет градиент ограничительной функции:

function [c ceq gc gceq] = unitdiskb(x)
c = x(1)^2 + x(2)^2 - 1;
ceq = [ ];

if nargout > 2
    gc = [x(1);x(2)]; % Gradient incorrect: off by a factor of 2
    gceq = [];
end

Проверка производных в командной строке

Установите опции использовать алгоритм внутренней точки, градиент цели и ограничительных функций и CheckGradients опция:

% For reproducibility--CheckGradients randomly perturbs the initial point
rng(0,'twister'); 
options = optimoptions(@fmincon,'Algorithm','interior-point',...
    'CheckGradients',true,'SpecifyObjectiveGradient',true,'SpecifyConstraintGradient',true);

Решите минимизацию с fmincon использование ошибочного unitdiskb ограничительная функция:

[x fval exitflag output] = fmincon(@rosenboth,...
   [-1;2],[],[],[],[],[],[],@unitdiskb,options);
____________________________________________________________
   Derivative Check Information  

Objective function derivatives:
Maximum relative difference between user-supplied 
and finite-difference derivatives = 1.84768e-008.

Nonlinear inequality constraint derivatives:
Maximum relative difference between user-supplied 
and finite-difference derivatives = 1.
 User-supplied constraint derivative element (2,1):     1.99838
 Finite-difference constraint derivative element (2,1): 3.99675
____________________________________________________________

Error using validateFirstDerivatives
Derivative Check failed:
User-supplied and forward finite-difference derivatives
do not match within 1e-006 relative tolerance.

Error in fmincon at 805
    validateFirstDerivatives(funfcn,confcn,X, ...

Ограничительная функция не совпадает с расчетным градиентом, поощряя вас проверять функцию на ошибку.

Замените unitdiskb ограничительная функция с unitdisk2 и запустите минимизацию снова:

[x fval exitflag output] = fmincon(@rosenboth,...
   [-1;2],[],[],[],[],[],[],@unitdisk2,options);

____________________________________________________________
   Derivative Check Information  

Objective function derivatives:
Maximum relative difference between user-supplied 
and finite-difference derivatives = 1.28553e-008.

Nonlinear inequality constraint derivatives:
Maximum relative difference between user-supplied 
and finite-difference derivatives = 1.46443e-008.

Derivative Check successfully passed.
____________________________________________________________


Local minimum found that satisfies the constraints...

Проверка производных с приложением оптимизации

Примечание

Приложение Оптимизации предупреждает, что будет удалено в будущем релизе.

Настраивать пример с помощью правильных производных функций, но начиная с [0 0], использование приложения Оптимизации:

Запустите приложение Оптимизации путем ввода optimtool в командной строке.
Установите панель Problem Setup and Results совпадать со следующей фигурой:
Установите панель Options совпадать со следующей фигурой:
Нажмите кнопку Start под Run solver and view results.
Выходные отображения на экране
Прямое приближение конечной разности достаточно неточно около [0 0] то, что производная проверка перестала работать.
Чтобы использовать более точные центральные различия, выберите central differences в панели Approximated derivatives > Type:
Нажмите Run solver and view results > Clear Results, затем Start. На этот раз производная проверка успешна:

Производная проверка также успешно выполняется, когда вы выбираете начальную точку [-1 2], или наиболее случайные точки.

Документация