Проблемы наименьших квадратов имеют два типа.
Линейный метод наименьших квадратов решает min || C *x - d ||2, возможно с границами или линейными ограничениями. Смотрите Линейный метод наименьших квадратов.
Нелинейный метод наименьших квадратов решает min (∑ || F (xi) – yi ||2), где F (xi) является нелинейной функцией, и yi является данными. Смотрите Нелинейный метод наименьших квадратов (Curve Fitting).