Используя функцию умножения якобиана, можно решить задачу наименьших квадратов формы
таким образом, что lb ≤ x ≤ ub
, для проблем, где C является очень большим, возможно, слишком большим, чтобы храниться. Для этого метода используйте 'trust-region-reflective'
алгоритм.
Например, рассмотрите задачу, где C является 2n-by-n матрицей на основе циркулянтной матрицы. Строки C являются сдвигами вектора-строки против Этого примера, имеет вектор-строку v с элементами формы :
,
где элементы циклически смещены.
Этот пример наименьших квадратов рассматривает задачу где
,
и ограничения для .
Для достаточно большого , плотная матрица C не помещается в память компьютера ( является слишком большим в одной протестированной системе).
Функция умножения якобиана имеет следующий синтаксис.
w = jmfcn(Jinfo,Y,flag)
Jinfo
матрица тот же размер как C, используемый в качестве предварительного формирователя. Если C является слишком большим, чтобы поместиться в память, Jinfo
должно быть разреженным. Y
вектор или матрица, измеренная так, чтобы C*Y
или C'*Y
работает умножением матриц. flag
говорит jmfcn
какой продукт сформировать:
flag
> 0 ⇒ w = C*Y
flag
<0 ⇒ w = C'*Y
flag
= 0 ⇒ w = C'*C*Y
Поскольку C является такой просто структурированной матрицей, можно легко записать функцию умножения якобиана в терминах вектора v; то есть, не формируясь C. Каждая строка C*Y
продукт циркулярной переключенной версии v времен Y
. Используйте circshift
к циркулярному сдвигу против
Вычислить C*Y
, вычислите v*Y
чтобы найти первую строку, затем переключите v и вычислите вторую строку и так далее.
Вычислить C'*Y
, выполните тот же расчет, но используйте переключенную версию temp
, вектор, сформированный из первой строки C'
:
temp = [fliplr(v),fliplr(v)];
temp = [circshift(temp,1,2),circshift(temp,1,2)]; % Now temp = C'(1,:)
Вычислить C'*C*Y
, просто вычислите C*Y
использование сдвигов v, и затем вычисляет C'
времена результат с помощью сдвигов fliplr(v)
.
Функция помощника lsqcirculant3
функция умножения якобиана, которая реализует эту процедуру; это появляется в конце этого примера.
dolsqJac3
функция помощника в конце этого примера настраивает вектор v и вызывает решатель lsqlin
использование lsqcirculant3
Функция умножения якобиана.
Когда n
= 3000, C является плотной матрицей с 18,000,000 элементами. Определите результаты dolsqJac3
функция для n
= 3000 в выбранных значениях x и отображении структура output.
[x,resnorm,residual,exitflag,output] = dolsqJac3(3000);
Local minimum possible. lsqlin stopped because the relative change in function value is less than the function tolerance.
disp(x(1))
5.0000
disp(x(1500))
-0.5201
disp(x(3000))
-5.0000
disp(output)
iterations: 16 algorithm: 'trust-region-reflective' firstorderopt: 5.9351e-05 cgiterations: 36 constrviolation: [] linearsolver: [] message: 'Local minimum possible.↵↵lsqlin stopped because the relative change in function value is less than the function tolerance.'
Этот код создает lsqcirculant3
функция помощника.
function w = lsqcirculant3(Jinfo,Y,flag,v) % This function computes the Jacobian multiply function % for a 2n-by-n circulant matrix example if flag > 0 w = Jpositive(Y); elseif flag < 0 w = Jnegative(Y); else w = Jnegative(Jpositive(Y)); end function a = Jpositive(q) % Calculate C*q temp = v; a = zeros(size(q)); % Allocating the matrix a a = [a;a]; % The result is twice as tall as the input. for r = 1:size(a,1) a(r,:) = temp*q; % Compute the rth row temp = circshift(temp,1,2); % Shift the circulant end end function a = Jnegative(q) % Calculate C'*q temp = fliplr(v); temp = circshift(temp,1,2); % Shift the circulant for C' len = size(q,1)/2; % The returned vector is half as long % as the input vector. a = zeros(len,size(q,2)); % allocating the matrix a for r = 1:len a(r,:) = [temp,temp]*q; % Compute the rth row temp = circshift(temp,1,2); % Shift the circulant end end end
Этот код создает dolsqJac3
функция помощника.
function [x,resnorm,residual,exitflag,output] = dolsqJac3(n) % r = 1:n-1; % Index for making vectors v(n) = (-1)^(n+1)/n; % Allocating the vector v v(r) =( -1).^(r+1)./r; % Now C should be a 2n-by-n circulant matrix based on v, % but it might be too large to fit into memory. r = 1:2*n; d(r) = n-r; Jinfo = [speye(n);speye(n)]; % Sparse matrix for preconditioning % This matrix is a required input for the solver; % preconditioning is not used in this example. % Pass the vector v so that it does not need to be % computed in the Jacobian multiply function. options = optimoptions('lsqlin','Algorithm','trust-region-reflective',... 'JacobianMultiplyFcn',@(Jinfo,Y,flag)lsqcirculant3(Jinfo,Y,flag,v)); lb = -5*ones(1,n); ub = 5*ones(1,n); [x,resnorm,residual,exitflag,output] = ... lsqlin(Jinfo,d,[],[],[],[],lb,ub,[],options); end