Документация

x = lsqlin(C,d,A,b) решает линейную систему C*x = d в смысле наименьших квадратов согласно A*x ≤ b.

x = lsqlin(C,d,A,b,Aeq,beq,lb,ub) добавляют линейные ограничения равенства Aeq*x = beq и ограничивают lb ≤ x ≤ ub. Если вам не нужны определенные ограничения, такие как Aeq и beq, установите их на []. Если x(i) неограничен ниже, установите lb(i) = -Inf, и если x(i) неограничен выше, установите ub(i) = Inf.

x = lsqlin(C,d,A,b,Aeq,beq,lb,ub,x0,options) минимизирует с начальной точкой x0 и опции оптимизации, заданные в options. Используйте optimoptions, чтобы установить эти опции. Если вы не хотите включать начальную точку, установите аргумент x0 на [].

x = lsqlin(problem) находит минимум для problem, где problem является структурой. Создайте структуру problem путем экспорта проблемы из приложения Оптимизации, как описано в Экспорте работы. Или создайте структуру problem из объекта OptimizationProblem при помощи prob2struct.

[x,resnorm,residual,exitflag,output,lambda] = lsqlin(___), для любых входных параметров, описанных выше, возвращается:

Квадратичная норма остаточного resnorm = ${‖ C \cdot x - d ‖}_{}^{22}$
Остаточный residual = C*x - d
Значение exitflag, описывающий выходное условие
Структура output, содержащий информацию о процессе оптимизации
Структура lambda, содержащий множители Лагранжа
Фактор ½ в определении проблемы влияет на значения в структуре lambda.

Примеры

Наименьшие квадраты с линейными ограничениями неравенства

Найдите x, который минимизирует норму C*x - d для сверхрешительной проблемы с линейными ограничениями неравенства.

Задайте проблему и ограничения.

C = [0.9501    0.7620    0.6153    0.4057
    0.2311    0.4564    0.7919    0.9354
    0.6068    0.0185    0.9218    0.9169
    0.4859    0.8214    0.7382    0.4102
    0.8912    0.4447    0.1762    0.8936];
d = [0.0578
    0.3528
    0.8131
    0.0098
    0.1388];
A = [0.2027    0.2721    0.7467    0.4659
    0.1987    0.1988    0.4450    0.4186
    0.6037    0.0152    0.9318    0.8462];
b = [0.5251
    0.2026
    0.6721];

Вызовите lsqlin, чтобы решить проблему.

x = lsqlin(C,d,A,b)

Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

Наименьшие квадраты с линейными ограничениями и границами

Найдите x, который минимизирует норму C*x - d для сверхрешительной проблемы с линейным равенством и ограничениями неравенства и границами.

Задайте проблему и ограничения.

C = [0.9501    0.7620    0.6153    0.4057
    0.2311    0.4564    0.7919    0.9354
    0.6068    0.0185    0.9218    0.9169
    0.4859    0.8214    0.7382    0.4102
    0.8912    0.4447    0.1762    0.8936];
d = [0.0578
    0.3528
    0.8131
    0.0098
    0.1388];
A =[0.2027    0.2721    0.7467    0.4659
    0.1987    0.1988    0.4450    0.4186
    0.6037    0.0152    0.9318    0.8462];
b =[0.5251
    0.2026
    0.6721];
Aeq = [3 5 7 9];
beq = 4;
lb = -0.1*ones(4,1);
ub = 2*ones(4,1);

Вызовите lsqlin, чтобы решить проблему.

x = lsqlin(C,d,A,b,Aeq,beq,lb,ub)

Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

Линейный метод наименьших квадратов с опциями не по умолчанию

Этот пример показывает, как использовать опции не по умолчанию для линейного метода наименьших квадратов.

Установите опции использовать алгоритм 'interior-point' и давать итеративное отображение.

options = optimoptions('lsqlin','Algorithm','interior-point','Display','iter');

Настройте проблему линейного метода наименьших квадратов.

C = [0.9501    0.7620    0.6153    0.4057
    0.2311    0.4564    0.7919    0.9354
    0.6068    0.0185    0.9218    0.9169
    0.4859    0.8214    0.7382    0.4102
    0.8912    0.4447    0.1762    0.8936];
d = [0.0578
    0.3528
    0.8131
    0.0098
    0.1388];
A = [0.2027    0.2721    0.7467    0.4659
    0.1987    0.1988    0.4450    0.4186
    0.6037    0.0152    0.9318    0.8462];
b = [0.5251
    0.2026
    0.6721];

Запустите проблему.

x = lsqlin(C,d,A,b,[],[],[],[],[],options)

 Iter            Fval  Primal Infeas    Dual Infeas  Complementarity  
    0   -7.687420e-02   1.600492e+00   6.150431e-01     1.000000e+00  
    1   -7.687419e-02   8.002458e-04   3.075216e-04     2.430833e-01  
    2   -3.162837e-01   4.001229e-07   1.537608e-07     5.945636e-02  
    3   -3.760545e-01   2.000616e-10   2.036997e-08     1.370933e-02  
    4   -3.912129e-01   1.000866e-13   1.006816e-08     2.548273e-03  
    5   -3.948062e-01   2.220446e-16   2.955102e-09     4.295807e-04  
    6   -3.953277e-01   2.775558e-17   1.237758e-09     3.102850e-05  
    7   -3.953581e-01   2.775558e-17   1.645862e-10     1.138719e-07  
    8   -3.953582e-01   2.775558e-17   2.399608e-13     5.693290e-11  

Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

Возвратите все выходные параметры

Получите и интерпретируйте весь lsqlin выходные параметры.

Задайте проблему с линейными ограничениями неравенства и границами. Проблема сверхопределяется, потому что существует четыре столбца в матрице C, но пять строк. Это означает, что проблема имеет четыре неизвестные и пять условий, даже прежде включая линейные ограничения и границы.

C = [0.9501    0.7620    0.6153    0.4057
    0.2311    0.4564    0.7919    0.9354
    0.6068    0.0185    0.9218    0.9169
    0.4859    0.8214    0.7382    0.4102
    0.8912    0.4447    0.1762    0.8936];
d = [0.0578
    0.3528
    0.8131
    0.0098
    0.1388];
A = [0.2027    0.2721    0.7467    0.4659
    0.1987    0.1988    0.4450    0.4186
    0.6037    0.0152    0.9318    0.8462];
b = [0.5251
    0.2026
    0.6721];
lb = -0.1*ones(4,1);
ub = 2*ones(4,1);

Установите опции использовать алгоритм 'interior-point'.

options = optimoptions('lsqlin','Algorithm','interior-point');

Алгоритм 'interior-point' не использует начальную точку, таким образом, устанавливает x0 на [].

x0 = [];

Вызовите lsqlin со всеми выходными параметрами.

[x,resnorm,residual,exitflag,output,lambda] = ...
    lsqlin(C,d,A,b,[],[],lb,ub,x0,options)

Minimum found that satisfies the constraints.

Optimization completed because the objective function is non-decreasing in 
feasible directions, to within the value of the optimality tolerance,
and constraints are satisfied to within the value of the constraint tolerance.

resnorm = 0.1672

residual = 5×1

    0.0455
    0.0764
   -0.3562
    0.1620
    0.0784

exitflag = 1

output = struct with fields:
            message: '...'
          algorithm: 'interior-point'
      firstorderopt: 4.3374e-11
    constrviolation: 0
         iterations: 6
       linearsolver: 'dense'
       cgiterations: []

lambda = struct with fields:
    ineqlin: [3x1 double]
      eqlin: [0x1 double]
      lower: [4x1 double]
      upper: [4x1 double]

Исследуйте ненулевые поля множителя Лагранжа более подробно. Сначала исследуйте множители Лагранжа на линейное ограничение неравенства.

lambda.ineqlin

Множители Лагранжа являются ненулевыми точно, когда решение находится на соответствующем ограничительном контуре. Другими словами, множители Лагранжа являются ненулевыми, когда соответствующее ограничение активно. lambda.ineqlin(2) является ненулевым. Это означает, что второй элемент в A*x должен равняться второму элементу в b, потому что ограничение активно.

[A(2,:)*x,b(2)]

ans = 1×2

    0.2026    0.2026

Теперь исследуйте множители Лагранжа на ограничения нижней и верхней границы.

lambda.lower

lambda.upper

Первые два элемента lambda.lower являются ненулевыми. Вы видите, что x(1) и x(2) в их нижних границах, -0.1. Все элементы lambda.upper являются по существу нулем, и вы видите, что все компоненты x являются меньше, чем их верхняя граница, 2.

Входные параметры

`C` Матрица множителя
действительная матрица

Матрица множителя, заданная как матрица, удваивается. C представляет множитель решения x в выражении C*x - d. C является M-by-N, где M является количеством уравнений, и N является числом элементов x.

Пример: C = [1,4;2,5;7,8]

Типы данных: double

`d` Постоянный вектор
вектор действительных чисел

Постоянный вектор, заданный как вектор, удваивается. d представляет термин аддитивной постоянной в выражении C*x - d. d является M-by-1, где M является количеством уравнений.

Пример: d = [5;0;-12]

Типы данных: double

`A` Линейная матрица ограничения неравенства
действительная матрица

Линейная матрица ограничения неравенства, заданная как матрица, удваивается. A представляет линейные коэффициенты в ограничениях A*x ≤ b. A имеет размер Mineq-by-N, где Mineq является количеством ограничений, и N является числом элементов x. Чтобы сохранить память, передайте A как разреженную матрицу.

Пример: A = [4,3;2,0;4,-1]; означает три линейных неравенства (три строки) для двух переменных решения (два столбца).

Типы данных: double

`b` Линейный вектор ограничения неравенства
вектор действительных чисел

Линейный вектор ограничения неравенства, заданный как вектор, удваивается. b представляет постоянный вектор в ограничениях A*x ≤ b. b имеет длину Mineq, где A является Mineq-by-N.

Пример: [4,0]

Типы данных: double

`Aeq` — Линейная матрица ограничений равенства
`[]` (значение по умолчанию) | действительная матрица

Линейная матрица ограничений равенства, заданная как матрица, удваивается. Aeq представляет линейные коэффициенты в ограничениях Aeq*x = beq. Aeq имеет размер Meq-by-N, где Meq является количеством ограничений, и N является числом элементов x. Чтобы сохранить память, передайте Aeq как разреженную матрицу.

Типы данных: double

`beq` — Линейный ограничительный вектор равенства
`[]` (значение по умолчанию) | вектор действительных чисел

Линейный ограничительный вектор равенства, заданный как вектор, удваивается. beq представляет постоянный вектор в ограничениях Aeq*x = beq. beq имеет длину Meq, где Aeq является Meq-by-N.

Пример: [4,0]

Типы данных: double

`lb` — Нижние границы
`[]` (значение по умолчанию) | вектор действительных чисел или массив

Нижние границы, заданные как вектор или массив, удваиваются. lb представляет нижние границы поэлементно в lb ≤ x ≤ ub.

Внутренне, lsqlin преобразовывает массив lb в векторный lb(:).

Пример: lb = [0;-Inf;4] означает x(1) ≥ 0, x(3) ≥ 4.

Типы данных: double

`ub` — Верхние границы
`[]` (значение по умолчанию) | вектор действительных чисел или массив

Верхние границы, заданные как вектор или массив, удваиваются. ub представляет верхние границы поэлементно в lb ≤ x ≤ ub.

Внутренне, lsqlin преобразовывает массив ub в векторный ub(:).

Пример: ub = [Inf;4;10] означает x(2) ≤ 4, x(3) ≤ 10.

Типы данных: double

`x0` Начальная точка
`[]` (значение по умолчанию) | вектор действительных чисел или массив

Начальная точка для процесса решения, заданного как вектор или массив, удваивается. x0 используется только алгоритмом 'trust-region-reflective'. Дополнительный.

Если вы не обеспечиваете x0 для алгоритма 'trust-region-reflective', lsqlin устанавливает x0 на нулевой вектор. Если какой-либо компонент этого нулевого векторного x0 нарушает границы, lsqlin устанавливает x0 на точку во внутренней части поля, заданного границами.

Пример: x0 = [4;-3]

Типы данных: double

`опции` Опции для `lsqlin`
опции, созданные с помощью `optimoptions` или приложения Оптимизации

Опции для lsqlin, заданного как вывод optimoptions, функционируют или приложение Оптимизации.

Некоторые опции отсутствуют в отображении optimoptions. Эти опции появляются курсивом в следующей таблице. Для получения дополнительной информации, Опции вида на море.

Все алгоритмы

`Algorithm`	Выберите алгоритм: `'interior-point'` (значение по умолчанию) `'trust-region-reflective'` Алгоритм `'trust-region-reflective'` позволяет только верхние и нижние границы, не означая линейных неравенств или равенств. Если вы задаете и `'trust-region-reflective'` и линейные ограничения, `lsqlin` использует алгоритм `'interior-point'`. Алгоритм `'trust-region-reflective'` не позволяет равные верхние и нижние границы. Для получения дополнительной информации о выборе алгоритма смотрите Выбор Algorithm.
Диагностика	Отобразите диагностическую информацию о функции, которая будет минимизирована или решена. Выбором является `'on'` или `'off'` по умолчанию.
`Display`	Уровень отображения возвращен в командную строку. `'off'` или `'none'` не отображают вывода. `'final'` отображает только окончательный вывод (значение по умолчанию). Алгоритм `'interior-point'` позволяет дополнительные значения: `'iter'` дает итеративное отображение. `'iter-detailed'` дает итеративное отображение с подробным выходным сообщением. `'final-detailed'` отображает только окончательный вывод с подробным выходным сообщением.
`MaxIterations`	Максимальное количество позволенных итераций, положительное целое число. Значением по умолчанию является `200`. Для `optimset` именем является `MaxIter`. См. Текущие и Устаревшие Таблицы Имени Опции.

Опции алгоритма trust-region-reflective

`FunctionTolerance`	Допуск завершения на значении функции, положительной скалярной величине. Значением по умолчанию является `100*eps` о `2.2204e-14`. Для `optimset` именем является `TolFun`. См. Текущие и Устаревшие Таблицы Имени Опции.
`JacobianMultiplyFcn`	Якобиан умножает функцию, заданную как указатель на функцию. Для крупномасштабных структурированных проблем эта функция должна вычислить якобиевское матричное произведение `CY`, `C'Y` или `C'(CY)`, на самом деле не формируя `C`. Напишите функцию в форме W = jmfun(Jinfo,Y,flag) то, где `Jinfo` содержит матрицу, раньше вычисляло `CY` (или `C'Y` или `C'(CY)`). `jmfun` должен вычислить один из трех различных продуктов, в зависимости от значения `flag`, который передает `lsqlin`: Если `flag == 0` затем `W = C'(CY)`. Если `flag > 0` затем `W = CY`. Если `flag < 0` затем `W = C'Y`. В каждом случае `jmfun` не должен формировать `C` явным образом. `lsqlin` использует `Jinfo`, чтобы вычислить предварительный формирователь. Смотрите Передающие Дополнительные Параметры для получения информации о том, как предоставить дополнительные параметры при необходимости. Смотрите, что якобиан Умножает Функцию с Линейным методом наименьших квадратов для примера. Для `optimset` именем является `JacobMult`. См. Текущие и Устаревшие Таблицы Имени Опции.
MaxPCGIter	Максимальное количество PCG (предобусловленный метод сопряженных градиентов) итерации, положительная скалярная величина. Значением по умолчанию является `max(1,floor(numberOfVariables/2))`. Для получения дополнительной информации смотрите Доверительную область Отражающий Алгоритм.
`OptimalityTolerance`	Допуск завершения на оптимальности первого порядка, положительной скалярной величине. Значением по умолчанию является `100*eps` о `2.2204e-14`. Смотрите Меру по Оптимальности Первого порядка. Для `optimset` именем является `TolFun`. См. Текущие и Устаревшие Таблицы Имени Опции.
PrecondBandWidth	Верхняя пропускная способность предварительного формирователя для PCG (предобусловленный метод сопряженных градиентов). По умолчанию диагональное предварительное создание условий используется (верхняя пропускная способность 0). Для некоторых проблем, увеличивая пропускную способность сокращает количество итераций PCG. Установка `PrecondBandWidth` к `Inf` использует прямую факторизацию (Холесский), а не методы сопряженных градиентов (CG). Прямая факторизация является в вычислительном отношении более дорогой, чем CG, но производит лучший качественный шаг к решению. Для получения дополнительной информации смотрите Доверительную область Отражающий Алгоритм.
`SubproblemAlgorithm`	Определяет, как шаг итерации вычисляется. Значение по умолчанию, `'cg'`, делает более быстрый, но менее точный шаг, чем `'factorization'`. Смотрите Доверительную область Отражающие Наименьшие квадраты.
TolPCG	Допуск завершения на PCG (предобусловленный метод сопряженных градиентов) итерация, положительная скалярная величина. Значением по умолчанию является `0.1`.
`TypicalX`	Типичные значения `x`. Число элементов в `TypicalX` равно количеству переменных. Значением по умолчанию является `ones(numberofvariables,1)`. `lsqlin` использует `TypicalX` внутренне для масштабирования. `TypicalX` имеет эффект только, когда `x` имеет неограниченные компоненты, и когда значение `TypicalX` для неограниченного компонента больше, чем `1`.

Опции алгоритма interior-point

`ConstraintTolerance`	Допуск на ограничительном нарушении, положительной скалярной величине. Значением по умолчанию является `1e-8`. Для `optimset` именем является `TolCon`. См. Текущие и Устаревшие Таблицы Имени Опции.
`LinearSolver`	Тип внутреннего линейного решателя в алгоритме: `'auto'` (значение по умолчанию) — Использование `'sparse'`, если матрица `C` разреженна, `'dense'` в противном случае. `разреженный` Используйте линейную алгебру для разреженных матриц. Смотрите Разреженные матрицы (MATLAB). `'dense'` — Используйте плотную линейную алгебру.
`OptimalityTolerance`	Допуск завершения на оптимальности первого порядка, положительной скалярной величине. Значением по умолчанию является `1e-8`. Смотрите Меру по Оптимальности Первого порядка. Для `optimset` именем является `TolFun`. См. Текущие и Устаревшие Таблицы Имени Опции.
`StepTolerance`	Допуск завершения на `x`, положительной скалярной величине. Значением по умолчанию является `1e-12`. Для `optimset` именем является `TolX`. См. Текущие и Устаревшие Таблицы Имени Опции.

`problem` — Задача оптимизации
структура

Задача оптимизации, заданная как структура со следующими полями.

`C`	Матричный множитель в термине `C*x - d`
`d`	Аддитивная постоянная в термине `C*x - d`
`Aineq`	Матрица для линейных ограничений неравенства
`bineq`	Вектор для линейных ограничений неравенства
`Aeq`	Матрица для линейных ограничений равенства
`beq`	Вектор для линейных ограничений равенства
`lb`	Вектор нижних границ
`ub`	Вектор верхних границ
`x0`	Начальная точка для `x`
`solver`	`'lsqlin'`
`options`	Опции создаются с `optimoptions`

Создайте структуру problem путем экспорта проблемы из приложения Оптимизации, как описано в Экспорте работы.

Типы данных: struct

Выходные аргументы

`x` Решение
вектор действительных чисел

Решение, возвращенное как вектор, который минимизирует норму C*x-d, подвергающегося всем границам и линейным ограничениям.

`resnorm` Объективное значение
действительный скаляр

Объективное значение, возвращенное как скалярное значение norm(C*x-d)^2.

`residual` — Невязки решения
вектор действительных чисел

Невязки решения, возвращенные как векторный C*x-d.

`exitflag` Алгоритм, останавливающий условие
целое число

Алгоритм, останавливающий условие, возвращенное как целое число, идентифицирующее причину остановленный алгоритм. Следующие списки значения exitflag и соответствующих причин остановленный lsqlin.

3	Изменение в невязке было меньшим, чем заданный допуск `options.FunctionTolerance`. (алгоритм `trust-region-reflective`)
2	Размер шага, меньший, чем `options.StepTolerance`, удовлетворенные ограничения. (алгоритм `interior-point`)
1	Функция сходилась к решению `x`.
0	Количество итераций превысило `options.MaxIterations`.
-2	Проблема неосуществима. Или для алгоритма `interior-point` не удовлетворен размер шага, меньший, чем `options.StepTolerance`, но ограничения.
-3	Проблема неограниченна.
-4	Плохо создание условий предотвращает дальнейшую оптимизацию.
-8	Не мог вычислить направление шага.

Выходное сообщение для алгоритма interior-point может предоставить больше подробную информацию на причине остановленный lsqlin, такую как превышение допуска. Смотрите Выходные Флаги и Выходные сообщения.

`вывод` Сводные данные процесса решения
структура

Сводные данные процесса решения, возвращенные как структура, содержащая информацию о процессе оптимизации.

`iterations`	Количество итераций решатель взяло.
`algorithm`	Один из этих алгоритмов: `'interior-point'` `'trust-region-reflective'`
`constrviolation`	Ограничительное нарушение, которое положительно для нарушенных ограничений (не возвращенный для алгоритма `'trust-region-reflective'`). `constrviolation = max([0;norm(Aeqx-beq, inf);(lb-x);(x-ub);(Ax-b)])`
`message`	Выходное сообщение.
`firstorderopt`	Оптимальность первого порядка в решении. Смотрите Меру по Оптимальности Первого порядка.
`linearsolver`	Тип внутреннего линейного решателя, `'dense'` или `'sparse'` (только алгоритм `'interior-point'`)
`cgiterations`	Количество итераций метода сопряженных градиентов решатель выполняется. Непустой только для алгоритма `'trust-region-reflective'`.

Смотрите Выходные структуры.

`\lambda` Множители Лагранжа
структура

Множители Лагранжа, возвращенные как структура со следующими полями.

`lower`	Нижние границы `lb`
`upper`	Верхние границы `ub`
`ineqlin`	Линейные неравенства
`eqlin`	Линейные равенства

Смотрите структуры множителя Лагранжа.

Советы

Для проблем без ограничений можно использовать mldivide (матрица, оставленная деление). Когда у вас нет ограничений, lsqlin возвращает x = C\d.
Поскольку решаемая проблема всегда выпукла, lsqlin находит глобальную переменную, несмотря на то, что не обязательно уникальной, решение.
Лучше числовые результаты вероятны, если вы задаете равенства явным образом, с помощью Aeq и beq, вместо неявно, с помощью lb и ub.
Алгоритм trust-region-reflective не позволяет равные верхние и нижние границы. Используйте другой алгоритм для этого случая.
Если заданные входные границы для проблемы противоречивы, выводом x является x0, и выходными параметрами resnorm и residual является [].
Можно решить некоторые большие структурированные проблемы, включая тех, где матрица C является слишком большой, чтобы уместиться в памяти, использование алгоритма trust-region-reflective с якобианом умножает функцию. Для получения информации смотрите доверительную область отражающие Опции Алгоритма.

Алгоритмы