Квадратичное программирование с многими линейными ограничениями

Этот пример показывает, насколько хорошо quadprog 'active-set' алгоритм выполняет при наличии множества линейных ограничений по сравнению с заданным по умолчанию 'interior-point-convex' алгоритм. Кроме того, множители Лагранжа из 'active-set' алгоритм в точности равен нулю при неактивных ограничениях, что может быть полезно при поиске активных ограничений.

Описание задачи

Создайте псевдослучайную квадратичную задачу с N переменные и 10*N линейные ограничения неравенства. Задайте N = 150.

rng default % For reproducibility
N = 150;
rng default
A = randn([10*N,N]);
b = 10*ones(size(A,1),1);
f = sqrt(N)*rand(N,1);
H = 18*eye(N) + randn(N);
H = H + H';

Проверяйте, что получившаяся квадратичная матрица выпуклая.

ee = min(eig(H))
ee = 3.6976

Все собственные значения положительны, поэтому квадратичная форма x'*H*x является выпуклым.

Не включать линейные ограничения равенства или границы.

Aeq = [];
beq = [];
lb = [];
ub = [];

Решите задачу, используя два алгоритма

Установите опции, чтобы использовать quadprog 'active-set' алгоритм. Этот алгоритм требует начальной точки. Установите начальную точку x0 быть нулевым вектором длины N.

opts = optimoptions('quadprog','Algorithm','active-set');
x0 = zeros(N,1);

Время решения.

tic
[xa,fvala,eflaga,outputa,lambdaa] = quadprog(H,f,A,b,Aeq,beq,lb,ub,x0,opts);
Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

<stopping criteria details>
toc
Elapsed time is 0.042058 seconds.

Сравните время решения со временем по умолчанию 'interior-point-convex' алгоритм.

tic
[xi,fvali,eflagi,outputi,lambdai] = quadprog(H,f,A,b);
Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

<stopping criteria details>
toc
Elapsed time is 2.305694 seconds.

'active-set' алгоритм намного быстрее работает с задачами со многими линейными ограничениями.

Исследуйте множители Лагранжа

The 'active-set' алгоритм сообщает только несколько ненулевых записей в структуре множителя Лагранжа, сопоставленной с линейной матрицей ограничений.

nnz(lambdaa.ineqlin)
ans = 14

Напротив, 'interior-point-convex' алгоритм возвращает структуру множителя Лагранжа со всеми ненулевыми элементами.

nnz(lambdai.ineqlin)
ans = 1500

Почти все эти множители Лагранжа меньше N*eps в размере.

nnz(abs(lambdai.ineqlin) > N*eps)
ans = 20

Другими словами, 'active-set' алгоритм дает четкие указания на активные ограничения в структуре множителя Лагранжа, тогда как 'interior-point-convex' алгоритм этого не делает.

См. также

|

Похожие темы