RegressionLinear class

Модель линейной регрессии для высоко-размерных данных

Описание

RegressionLinear обученный линейный объект модели для регрессии; линейная модель является регрессией машины опорных векторов моделью линейной регрессии или (SVM). fitrlinear соответствует RegressionLinear модель путем минимизации целевой функции с помощью методов, которые уменьшают время вычисления для высоко-размерных наборов данных (e.g., стохастический градиентный спуск). Потеря регрессии плюс срок регуляризации составляет целевую функцию.

В отличие от других моделей регрессии, и для экономичного использования памяти, RegressionLinear объекты модели не хранят обучающие данные. Однако они действительно хранят, например, предполагаемые линейные коэффициенты модели, оцененные коэффициенты и силу регуляризации.

Можно использовать, обучил RegressionLinear модели, чтобы предсказать ответы для новых данных. Для получения дополнительной информации смотрите predict.

Конструкция

Создайте RegressionLinear объект при помощи fitrlinear.

Свойства

развернуть все

Свойства линейной регрессии

`Epsilon` — Половина ширины нечувствительной к эпсилону полосы
неотрицательный скаляр

Половина ширины нечувствительной полосы эпсилона в виде неотрицательного скаляра.

Если Learner не 'svm', затем Epsilon пустой массив ([]).

Типы данных: single | double

`Lambda` — Сила срока регуляризации
неотрицательный скаляр | вектор из неотрицательных значений

Сила срока регуляризации в виде неотрицательного скаляра или вектора из неотрицательных значений.

Типы данных: double | single

`Learner` — Тип модели линейной регрессии
`'leastsquares'` | `'svm'`

Тип модели линейной регрессии в виде 'leastsquares' или 'svm'.

В этой таблице, $f (x) = x β + b .$

β является вектором из коэффициентов p.
x является наблюдением от переменных предикторов p.
b является скалярным смещением.

Значение	Алгоритм	Функция потерь	`FittedLoss` Значение
`'leastsquares'`	Линейная регрессия через обычные наименьшие квадраты	Среднеквадратическая ошибка (MSE): $ℓ [y, f (x)] = \frac{1}{2} {[y - f (x)]}^{2}$	`'mse'`
`'svm'`	Регрессия машины опорных векторов	Нечувствительный эпсилон: $ℓ [y, f (x)] = \max [0, \| y - f (x) \| - ε]$	`'epsiloninsensitive'`

`Beta` — Линейные содействующие оценки
числовой вектор

Линейный коэффициент оценивает в виде числового вектора с длиной, равной количеству предикторов.

Типы данных: double

`Bias` — Предполагаемый срок смещения
числовой скаляр

Предполагаемый срок смещения или прерывание модели в виде числового скаляра.

Типы данных: double

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

Функция потерь раньше подбирала модель в виде 'epsiloninsensitive' или 'mse'.

Значение	Алгоритм	Функция потерь	`Learner` Значение
`'epsiloninsensitive'`	Регрессия машины опорных векторов	Нечувствительный эпсилон: $ℓ [y, f (x)] = \max [0, \| y - f (x) \| - ε]$	`'svm'`
`'mse'`	Линейная регрессия через обычные наименьшие квадраты	Среднеквадратическая ошибка (MSE): $ℓ [y, f (x)] = \frac{1}{2} {[y - f (x)]}^{2}$	`'leastsquares'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

Штраф сложности вводит в виде 'lasso (L1)' или 'ridge (L2)'.

Программное обеспечение составляет целевую функцию для минимизации от суммы средней функции потерь (см. FittedLoss) и значение регуляризации из этой таблицы.

Значение	Описание
`'lasso (L1)'`	Лассо (L ₁) штраф: $λ \sum_{j = 1}^{p} \| β_{j} \|$
`'ridge (L2)'`	Гребень (L ₂) штраф: $\frac{λ}{2} \sum_{j = 1}^{p} β_{j}^{2}$

λ задает силу срока регуляризации (см. Lambda).

Программное обеспечение исключает срок смещения (β ₀) от штрафа регуляризации.

Другие свойства регрессии

`CategoricalPredictors` — Категориальные индексы предиктора
вектор из положительных целых чисел | `[]`

Категориальные индексы предиктора в виде вектора из положительных целых чисел. Предположение, что данные о предикторе содержат наблюдения в строках, CategoricalPredictors содержит значения индекса, соответствующие столбцам данных о предикторе, которые содержат категориальные предикторы. Если ни один из предикторов не является категориальным, то это свойство пусто ([]).

Типы данных: single | double

`ModelParameters` — Параметры используются для учебной модели
структура

Параметры использовали для обучения RegressionLinear модель в виде структуры.

Доступ к полям ModelParameters использование записи через точку. Например, получите доступ к относительной погрешности на линейных коэффициентах и сроке смещения при помощи Mdl.ModelParameters.BetaTolerance.

Типы данных: struct

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

Предиктор называет в порядке их внешнего вида в данных о предикторе в виде массива ячеек из символьных векторов. Длина PredictorNames равно количеству переменных в обучающих данных X или Tbl используемый в качестве переменных предикторов.

Типы данных: cell

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

Расширенный предиктор называет в виде массива ячеек из символьных векторов.

Если кодирование использования модели для категориальных переменных, то ExpandedPredictorNames включает имена, которые описывают расширенные переменные. В противном случае, ExpandedPredictorNames совпадает с PredictorNames.

Типы данных: cell

`ResponseName` — Имя переменной отклика
символьный вектор

Имя переменной отклика в виде вектора символов.

Типы данных: char

`ResponseTransform` — Функция преобразования ответа
`'none'` | указатель на функцию

Преобразование ответа функционирует в виде 'none' или указатель на функцию. ResponseTransform описывает, как программное обеспечение преобразовывает необработанные значения отклика.

Для функции MATLAB^® или функции, которую вы задаете, вводят ее указатель на функцию. Например, можно ввести Mdl.ResponseTransform = @function, где function принимает числовой вектор из исходных ответов и возвращает числовой вектор, одного размера содержащий преобразованные ответы.

Типы данных: char | function_handle

Функции объекта

`incrementalLearner`	Преобразуйте модель линейной регрессии в инкрементного ученика
`loss`	Потеря регрессии для моделей линейной регрессии
`partialDependence`	Вычислите частичную зависимость
`plotPartialDependence`	Создайте графики отдельного условного ожидания (ICE) и частичный график зависимости (PDP)
`predict`	Предскажите ответ модели линейной регрессии
`selectModels`	Выберите подбиравшие упорядоченные модели линейной регрессии
`update`	Обновите параметры модели для генерации кода

Копировать семантику

Значение. Чтобы узнать, как классы значений влияют на операции копирования, см. раздел "Копирование объектов".

Примеры

свернуть все

Обучите модель линейной регрессии

Скрипт Open Live Script

Обучите модель линейной регрессии, использующую SVM, двойной SGD и гребенчатую регуляризацию.

Симулируйте 10 000 наблюдений из этой модели

$y = x_{100} + 2 x_{200} + e .$

$X = x_{1}, . . ., x_{1000}$ 10000 1000 разреженная матрица с 10%-ми ненулевыми стандартными нормальными элементами.
e является случайной нормальной ошибкой со средним значением 0 и стандартным отклонением 0.3.

rng(1) % For reproducibility
n = 1e4;
d = 1e3;
nz = 0.1;
X = sprandn(n,d,nz);
Y = X(:,100) + 2*X(:,200) + 0.3*randn(n,1);

Обучите модель линейной регрессии. По умолчанию, fitrlinear машины опорных векторов использования с гребенчатым штрафом, и оптимизируют использующий двойной SGD для SVM. Определите, как хорошо алгоритм оптимизации подбирает модель к данным путем извлечения подходящих сводных данных.

[Mdl,FitInfo] = fitrlinear(X,Y)

Mdl = 
  RegressionLinear
         ResponseName: 'Y'
    ResponseTransform: 'none'
                 Beta: [1000x1 double]
                 Bias: -0.0056
               Lambda: 1.0000e-04
              Learner: 'svm'


  Properties, Methods

FitInfo = struct with fields:
                    Lambda: 1.0000e-04
                 Objective: 0.2725
                 PassLimit: 10
                 NumPasses: 10
                BatchLimit: []
             NumIterations: 100000
              GradientNorm: NaN
         GradientTolerance: 0
      RelativeChangeInBeta: 0.4907
             BetaTolerance: 1.0000e-04
             DeltaGradient: 1.5816
    DeltaGradientTolerance: 0.1000
           TerminationCode: 0
         TerminationStatus: {'Iteration limit exceeded.'}
                     Alpha: [10000x1 double]
                   History: []
                   FitTime: 0.0458
                    Solver: {'dual'}

Mdl RegressionLinear модель. Можно передать Mdl и учебные или новые данные к loss смотреть среднеквадратическую ошибку в выборке. Или, можно передать Mdl и новые данные о предикторе к predict предсказать ответы для новых наблюдений.

FitInfo массив структур, содержащий, среди прочего, состояние завершения (TerminationStatus) и сколько времени решатель взял, чтобы подбирать модель к данным (FitTime). Это - хорошая практика, чтобы использовать FitInfo определить, являются ли измерения завершения оптимизации удовлетворительными. В этом случае, fitrlinear достигнутый максимальное количество итераций. Поскольку учебное время быстро, можно переобучить модель, но увеличить количество проходов через данные. Или, попробуйте другой решатель, такой как LBFGS.

Предскажите ответы Используя модель линейной регрессии

Скрипт Open Live Script

Симулируйте 10 000 наблюдений из этой модели

$y = x_{100} + 2 x_{200} + e .$

$X = {x_{1}, . . ., x_{1000}}$ 10000 1000 разреженная матрица с 10%-ми ненулевыми стандартными нормальными элементами.
e является случайной нормальной ошибкой со средним значением 0 и стандартным отклонением 0.3.

rng(1) % For reproducibility
n = 1e4;
d = 1e3;
nz = 0.1;
X = sprandn(n,d,nz);
Y = X(:,100) + 2*X(:,200) + 0.3*randn(n,1);

Протяните 5% данных.

rng(1); % For reproducibility
cvp = cvpartition(n,'Holdout',0.05)

cvp = 
Hold-out cross validation partition
   NumObservations: 10000
       NumTestSets: 1
         TrainSize: 9500
          TestSize: 500

cvp CVPartition объект, который задает случайный раздел n данных в наборы обучающих данных и наборы тестов.

Обучите модель линейной регрессии использование набора обучающих данных. В течение более быстрого учебного времени ориентируйте матрицу данных предиктора так, чтобы наблюдения были в столбцах.

idxTrain = training(cvp); % Extract training set indices
X = X';
Mdl = fitrlinear(X(:,idxTrain),Y(idxTrain),'ObservationsIn','columns');

Предскажите наблюдения и среднеквадратическую ошибку (MSE) для хранения выборка.

idxTest = test(cvp); % Extract test set indices
yHat = predict(Mdl,X(:,idxTest),'ObservationsIn','columns');
L = loss(Mdl,X(:,idxTest),Y(idxTest),'ObservationsIn','columns')

L = 0.1851

Выборка затяжки MSE 0.1852.

Расширенные возможности

Генерация кода C/C++
Генерация кода C и C++ с помощью MATLAB® Coder™.

Указания и ограничения по применению:

predict и update функции поддерживают генерацию кода.
Когда вы обучаете модель линейной регрессии при помощи fitrlinear, следующие ограничения применяются.
- Генерация кода не поддерживает категориальные предикторы (logicalкатегориальный'char'Строка, или cell). Если вы снабжаете обучающими данными в таблице, предикторы должны быть числовыми (double или single). Кроме того, вы не можете использовать 'CategoricalPredictors' пара "имя-значение" argument.To включает категориальные предикторы в модель, предварительно обрабатывает категориальные предикторы при помощи dummyvar прежде, чем подбирать модель.
- Если значение аргумента ввода данных предиктора является матрицей, это должна быть полная, числовая матрица. Генерация кода не поддерживает разреженные данные.
- Можно задать только одну силу регуляризации, любой 'auto' или неотрицательный скаляр для 'Lambda' аргумент пары "имя-значение".
- Значение 'ResponseTransform' аргументом пары "имя-значение" не может быть анонимная функция.

Для получения дополнительной информации смотрите Введение в Генерацию кода.

Введенный в R2016a

Документация

RegressionLinear class

Описание

Конструкция

Свойства

`Epsilon` — Половина ширины нечувствительной к эпсилону полосы
неотрицательный скаляр

`Lambda` — Сила срока регуляризации
неотрицательный скаляр | вектор из неотрицательных значений

`Learner` — Тип модели линейной регрессии
`'leastsquares'` | `'svm'`

`Beta` — Линейные содействующие оценки
числовой вектор

`Bias` — Предполагаемый срок смещения
числовой скаляр

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

`CategoricalPredictors` — Категориальные индексы предиктора
вектор из положительных целых чисел | `[]`

`ModelParameters` — Параметры используются для учебной модели
структура

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

`ResponseName` — Имя переменной отклика
символьный вектор

`ResponseTransform` — Функция преобразования ответа
`'none'` | указатель на функцию

Функции объекта

Копировать семантику

Примеры

Обучите модель линейной регрессии

Предскажите ответы Используя модель линейной регрессии

Расширенные возможности

Генерация кода C/C++
Генерация кода C и C++ с помощью MATLAB® Coder™.

Смотрите также

Документация Statistics and Machine Learning Toolbox

Поддержка

Документация

RegressionLinear class

Описание

Конструкция

Свойства

Epsilon — Половина ширины нечувствительной к эпсилону полосы неотрицательный скаляр

Lambda — Сила срока регуляризации неотрицательный скаляр | вектор из неотрицательных значений

Learner — Тип модели линейной регрессии 'leastsquares' | 'svm'

Beta — Линейные содействующие оценки числовой вектор

Bias — Предполагаемый срок смещения числовой скаляр

FittedLoss — Функция потерь раньше подбирала линейную модель 'epsiloninsensitive' | 'mse'

Regularization — Тип штрафа сложности 'lasso (L1)' | 'ridge (L2)'

CategoricalPredictors — Категориальные индексы предиктора вектор из положительных целых чисел | []

ModelParameters — Параметры используются для учебной модели структура

PredictorNames — Имена предиктора массив ячеек из символьных векторов

ExpandedPredictorNames — Расширенные имена предиктора массив ячеек из символьных векторов

ResponseName — Имя переменной отклика символьный вектор

ResponseTransform — Функция преобразования ответа 'none' | указатель на функцию

Функции объекта

Копировать семантику

Примеры

Обучите модель линейной регрессии

Предскажите ответы Используя модель линейной регрессии

Расширенные возможности

Генерация кода C/C++ Генерация кода C и C++ с помощью MATLAB® Coder™.

Смотрите также

Документация Statistics and Machine Learning Toolbox

Поддержка

`Epsilon` — Половина ширины нечувствительной к эпсилону полосы
неотрицательный скаляр

`Lambda` — Сила срока регуляризации
неотрицательный скаляр | вектор из неотрицательных значений

`Learner` — Тип модели линейной регрессии
`'leastsquares'` | `'svm'`

`Beta` — Линейные содействующие оценки
числовой вектор

`Bias` — Предполагаемый срок смещения
числовой скаляр

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

`CategoricalPredictors` — Категориальные индексы предиктора
вектор из положительных целых чисел | `[]`

`ModelParameters` — Параметры используются для учебной модели
структура

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

`ResponseName` — Имя переменной отклика
символьный вектор

`ResponseTransform` — Функция преобразования ответа
`'none'` | указатель на функцию

Генерация кода C/C++
Генерация кода C и C++ с помощью MATLAB® Coder™.