RegressionKernel

Гауссова модель регрессии ядра использование случайного расширения функции

Описание

RegressionKernel обученный объект модели для Гауссовой регрессии ядра с помощью случайного расширения функции. RegressionKernel более практично для больших применений данных, которые имеют большие наборы обучающих данных, но могут также быть применены к меньшим наборам данных, которые умещаются в памяти.

В отличие от других моделей регрессии, и для экономичного использования памяти, RegressionKernel объекты модели не хранят обучающие данные. Однако они действительно хранят информацию, такую как размерность расширенного пробела, масштабного коэффициента ядра и силы регуляризации.

Можно использовать, обучил RegressionKernel модели, чтобы продолжить обучение с помощью обучающих данных, предскажите ответы для новых данных и вычислите среднеквадратическую ошибку или нечувствительную к эпсилону потерю. Для получения дополнительной информации смотрите resume, predict, и loss.

Создание

Создайте RegressionKernel объект с помощью fitrkernel функция. Эти функциональные данные о картах в низком мерном пространстве в высокое мерное пространство, затем подбирает линейную модель в высоком мерном пространстве путем минимизации упорядоченной целевой функции. Получение линейной модели в высоком мерном пространстве эквивалентно применению Гауссова ядра к модели в низком мерном пространстве. Доступные модели линейной регрессии включают упорядоченные машины опорных векторов (SVM) и модели регрессии наименьших квадратов.

Свойства

развернуть все

Свойства регрессии ядра

`Epsilon` — Полуширина нечувствительной к эпсилону полосы
неотрицательный скаляр

Половина ширины нечувствительной к эпсилону полосы в виде неотрицательного скаляра.

Если Learner не 'svm', затем Epsilon пустой массив ([]).

Типы данных: single | double

`Learner` — Тип модели линейной регрессии
`'svm'` (значение по умолчанию) | `'leastsquares'`

Тип модели линейной регрессии в виде 'leastsquares' или 'svm'.

В следующей таблице, $f (x) = T (x) β + b .$

x является наблюдением (вектор-строка) от переменных предикторов p.
$T (\cdot)$ преобразование наблюдения (вектор-строка) для расширения функции. T (x) сопоставляет x в $ℝ^{p}$ к высокому мерному пространству ( $ℝ^{m}$ ).
β является вектором из коэффициентов m.
b является скалярным смещением.

Значение	Алгоритм	Функция потерь	`FittedLoss` Значение
`'leastsquares'`	Линейная регрессия через обычные наименьшие квадраты	Среднеквадратическая ошибка (MSE): $ℓ [y, f (x)] = \frac{1}{2} {[y - f (x)]}^{2}$	`'mse'`
`'svm'`	Регрессия машины опорных векторов	Нечувствительный эпсилон: $ℓ [y, f (x)] = \max [0, \| y - f (x) \| - ε]$	`'epsiloninsensitive'`

`NumExpansionDimensions` — Количество размерностей расширенного пробела
положительное целое число

Количество размерностей расширенного пробела в виде положительного целого числа.

Типы данных: single | double

`KernelScale` — Масштабный коэффициент ядра
положительная скалярная величина

Масштабный коэффициент ядра в виде положительной скалярной величины.

Типы данных: single | double

`BoxConstraint` — Ограничение поля
положительная скалярная величина

Ограничение поля в виде положительной скалярной величины.

Типы данных: double | single

`Lambda` — Сила срока регуляризации
неотрицательный скаляр

Сила срока регуляризации в виде неотрицательного скаляра.

Типы данных: single | double

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

Функция потерь раньше подбирала линейную модель в виде 'epsiloninsensitive' или 'mse'.

Значение	Алгоритм	Функция потерь	`Learner` Значение
`'epsiloninsensitive'`	Регрессия машины опорных векторов	Нечувствительный эпсилон: $ℓ [y, f (x)] = \max [0, \| y - f (x) \| - ε]$	`'svm'`
`'mse'`	Линейная регрессия через обычные наименьшие квадраты	Среднеквадратическая ошибка (MSE): $ℓ [y, f (x)] = \frac{1}{2} {[y - f (x)]}^{2}$	`'leastsquares'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

Штраф сложности вводит в виде 'lasso (L1)' или 'ridge (L2)'.

Программное обеспечение составляет целевую функцию для минимизации от суммы средней функции потерь (см. FittedLoss) и значение регуляризации из этой таблицы.

Значение	Описание
`'lasso (L1)'`	Лассо (L ₁) штраф: $λ \sum_{j = 1}^{p} \| β_{j} \|$
`'ridge (L2)'`	Гребень (L ₂) штраф: $\frac{λ}{2} \sum_{j = 1}^{p} β_{j}^{2}$

λ задает силу срока регуляризации (см. Lambda).

Программное обеспечение исключает срок смещения (β ₀) от штрафа регуляризации.

Другие свойства регрессии

`CategoricalPredictors` — Индексы категориальных предикторов
вектор из положительных целых чисел

Категориальные индексы предиктора в виде вектора из положительных целых чисел. CategoricalPredictors содержит значения индекса, соответствующие столбцам данных о предикторе, которые содержат категориальные предикторы. Если ни один из предикторов не является категориальным, то это свойство пусто ([]).

Типы данных: single | double

`ModelParameters` — Параметры используются для учебной модели
структура

Параметры использовали для обучения RegressionKernel модель в виде структуры.

Доступ к полям ModelParameters использование записи через точку. Например, получите доступ к относительной погрешности на линейных коэффициентах и сроке смещения при помощи Mdl.ModelParameters.BetaTolerance.

Типы данных: struct

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

Предиктор называет в порядке их внешнего вида в данных о предикторе в виде массива ячеек из символьных векторов. Длина PredictorNames равно количеству столбцов, используемых в качестве переменных предикторов в обучающих данных X или Tbl.

Типы данных: cell

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

Расширенный предиктор называет в виде массива ячеек из символьных векторов.

Если кодирование использования модели для категориальных переменных, то ExpandedPredictorNames включает имена, которые описывают расширенные переменные. В противном случае, ExpandedPredictorNames совпадает с PredictorNames.

Типы данных: cell

`ResponseName` — Имя переменной отклика
символьный вектор

Имя переменной отклика в виде вектора символов.

Типы данных: char

`ResponseTransform` — Преобразование ответа функционирует, чтобы примениться к предсказанным ответам
`'none'` | указатель на функцию

Преобразование ответа функционирует, чтобы примениться к предсказанным ответам в виде 'none' или указатель на функцию.

Для моделей регрессии ядра и перед преобразованием ответа, предсказанным ответом для наблюдения x (вектор-строка) $f (x) = T (x) β + b .$

$T (\cdot)$ преобразование наблюдения для расширения функции.
β соответствует Mdl.Beta.
b соответствует Mdl.Bias.

Для функции MATLAB^® или функции, которую вы задаете, введите ее указатель на функцию. Например, можно ввести Mdl.ResponseTransform = @function, где function принимает числовой вектор из исходных ответов и возвращает числовой вектор, одного размера содержащий преобразованные ответы.

Типы данных: char | function_handle

Функции объекта

`loss`	Потеря регрессии для Гауссовой модели регрессии ядра
`partialDependence`	Вычислите частичную зависимость
`plotPartialDependence`	Создайте графики отдельного условного ожидания (ICE) и частичный график зависимости (PDP)
`predict`	Предскажите ответы для Гауссовой модели регрессии ядра
`resume`	Возобновите обучение Гауссовой модели регрессии ядра

Примеры

свернуть все

Обучите гауссову модель регрессии ядра

Скрипт Open Live Script

Обучите модель регрессии ядра длинному массиву при помощи SVM.

Когда вы выполняете вычисления на длинных массивах, MATLAB® использует любого параллельный пул (значение по умолчанию, если у вас есть Parallel Computing Toolbox™), или локальный сеанс работы с MATLAB. Чтобы запустить пример с помощью локального сеанса работы с MATLAB, когда у вас будет Parallel Computing Toolbox, измените глобальную среду выполнения при помощи mapreducer функция.

mapreducer(0)

Создайте datastore, который ссылается на местоположение папки с данными. Данные могут содержаться в одном файле, наборе файлов или целой папке. Обработайте 'NA' значения как недостающие данные так, чтобы datastore заменяет их на NaN значения. Выберите подмножество переменных, чтобы использовать. Составьте длинную таблицу сверху datastore.

varnames = {'ArrTime','DepTime','ActualElapsedTime'};
ds = datastore('airlinesmall.csv','TreatAsMissing','NA',...
    'SelectedVariableNames',varnames);
t = tall(ds);

Задайте DepTime и ArrTime как переменные предикторы (X) и ActualElapsedTime как переменная отклика (Y). Выберите наблюдения для который ArrTime позже, чем DepTime.

daytime = t.ArrTime>t.DepTime;
Y = t.ActualElapsedTime(daytime);     % Response data
X = t{daytime,{'DepTime' 'ArrTime'}}; % Predictor data

Стандартизируйте переменные предикторы.

Z = zscore(X); % Standardize the data

Обучите Гауссову модель регрессии ядра по умолчанию со стандартизированными предикторами. Извлеките подходящие сводные данные, чтобы определить, как хорошо алгоритм оптимизации подбирает модель к данным.

[Mdl,FitInfo] = fitrkernel(Z,Y)

Found 6 chunks.
|=========================================================================
| Solver | Iteration  /  |   Objective   |   Gradient    | Beta relative |
|        | Data Pass     |               |   magnitude   |    change     |
|=========================================================================
|   INIT |     0 /     1 |  4.313465e+01 |  6.296907e-02 |           NaN |
|  LBFGS |     0 /     2 |  3.704335e+01 |  1.789316e-02 |  9.985854e-01 |
|  LBFGS |     1 /     3 |  3.703211e+01 |  2.880402e-02 |  1.044172e-03 |
|  LBFGS |     2 /     4 |  3.701616e+01 |  2.297788e-02 |  5.115891e-04 |
|  LBFGS |     2 /     5 |  3.700183e+01 |  1.750937e-02 |  1.023672e-03 |
|  LBFGS |     3 /     6 |  3.679055e+01 |  4.815047e-02 |  1.113182e-02 |
|  LBFGS |     4 /     7 |  3.637852e+01 |  1.058657e-01 |  2.994089e-02 |
|  LBFGS |     5 /     8 |  3.565372e+01 |  1.406536e-01 |  7.033477e-02 |
|  LBFGS |     6 /     9 |  3.478061e+01 |  1.479288e-01 |  1.185262e-01 |
|  LBFGS |     7 /    10 |  3.616955e+01 |  1.544917e-01 |  2.790848e-01 |
|  LBFGS |     7 /    11 |  3.459534e+01 |  1.212256e-01 |  1.229242e-01 |
|  LBFGS |     8 /    12 |  3.379859e+01 |  8.791025e-02 |  5.417481e-02 |
|  LBFGS |     9 /    13 |  3.339981e+01 |  3.077806e-02 |  4.638645e-02 |
|  LBFGS |    10 /    14 |  3.325224e+01 |  3.082755e-02 |  2.867793e-02 |
|  LBFGS |    11 /    15 |  3.320036e+01 |  4.168377e-02 |  9.376887e-03 |
|  LBFGS |    12 /    16 |  3.309321e+01 |  5.018195e-02 |  1.831484e-02 |
|  LBFGS |    13 /    17 |  3.288069e+01 |  4.506485e-02 |  3.732443e-02 |
|  LBFGS |    14 /    18 |  3.245691e+01 |  3.787163e-02 |  1.036929e-01 |
|  LBFGS |    15 /    19 |  3.210116e+01 |  2.418833e-02 |  1.190984e-01 |
|  LBFGS |    16 /    20 |  3.190585e+01 |  2.666398e-02 |  3.921991e-02 |
|=========================================================================
| Solver | Iteration  /  |   Objective   |   Gradient    | Beta relative |
|        | Data Pass     |               |   magnitude   |    change     |
|=========================================================================
|  LBFGS |    17 /    21 |  3.172622e+01 |  2.548259e-02 |  3.805655e-02 |
|  LBFGS |    18 /    22 |  3.154538e+01 |  1.280266e-02 |  4.363429e-02 |
|  LBFGS |    19 /    23 |  3.138533e+01 |  1.446779e-02 |  8.822868e-02 |
|  LBFGS |    20 /    24 |  3.283513e+01 |  2.218528e-01 |  1.318597e-01 |
|  LBFGS |    20 /    25 |  3.158782e+01 |  1.019184e-01 |  6.992082e-02 |
|  LBFGS |    20 /    26 |  3.136869e+01 |  4.678412e-02 |  3.603399e-02 |
|========================================================================|

Mdl = 
  RegressionKernel
            PredictorNames: {'x1'  'x2'}
              ResponseName: 'Y'
                   Learner: 'svm'
    NumExpansionDimensions: 64
               KernelScale: 1
                    Lambda: 8.5385e-06
             BoxConstraint: 1
                   Epsilon: 5.9303


  Properties, Methods

FitInfo = struct with fields:
                  Solver: 'LBFGS-tall'
            LossFunction: 'epsiloninsensitive'
                  Lambda: 8.5385e-06
           BetaTolerance: 1.0000e-03
       GradientTolerance: 1.0000e-05
          ObjectiveValue: 31.3687
       GradientMagnitude: 0.0468
    RelativeChangeInBeta: 0.0360
                 FitTime: 39.1728
                 History: [1x1 struct]

Mdl RegressionKernel модель. Чтобы смотреть ошибку регрессии, можно передать Mdl и обучающие данные или новые данные к loss функция. Или, можно передать Mdl и новые данные о предикторе к predict функция, чтобы предсказать ответы для новых наблюдений. Можно также передать Mdl и обучающие данные к resume функция, чтобы продолжить обучение.

FitInfo массив структур, содержащий информацию об оптимизации. Используйте FitInfo определить, являются ли измерения завершения оптимизации удовлетворительными.

Для улучшенной точности можно увеличить максимальное число итераций оптимизации ('IterationLimit') и уменьшите значения допуска ('BetaTolerance' и 'GradientTolerance') при помощи аргументов пары "имя-значение" fitrkernel. Выполнение так может улучшить меры как ObjectiveValue и RelativeChangeInBeta в FitInfo. Можно также оптимизировать параметры модели при помощи 'OptimizeHyperparameters' аргумент пары "имя-значение".

Оцените демонстрационную потерю и возобновите обучение

Скрипт Open Live Script

Возобновите обучение Гауссова модель регрессии ядра для большего количества итераций, чтобы улучшить потерю регрессии.

Загрузите carbig набор данных.

load carbig

Задайте переменные предикторы (X) и переменная отклика (Y).

X = [Acceleration,Cylinders,Displacement,Horsepower,Weight];
Y = MPG;

Удалите строки X и Y где любой массив имеет NaN значения. Удаление строк с NaN значения перед передающими данными к fitrkernel может ускорить обучение и уменьшать использование памяти.

R = rmmissing([X Y]); % Data with missing entries removed
X = R(:,1:5); 
Y = R(:,end);

Зарезервируйте 10% наблюдений как выборка затяжки. Извлеките обучение и протестируйте индексы из определения раздела.

rng(10)  % For reproducibility
N = length(Y);
cvp = cvpartition(N,'Holdout',0.1);
idxTrn = training(cvp); % Training set indices
idxTest = test(cvp);    % Test set indices

Стандартизируйте обучающие данные и обучите модель регрессии ядра. Установите предел итерации к 5 и задайте 'Verbose',1 отобразить диагностическую информацию.

Xtrain = X(idxTrn,:);
Ytrain = Y(idxTrn);
[Ztrain,tr_mu,tr_sigma] = zscore(Xtrain); % Standardize the training data
tr_sigma(tr_sigma==0) = 1;
Mdl = fitrkernel(Ztrain,Ytrain,'IterationLimit',5,'Verbose',1)

|=================================================================================================================|
| Solver |  Pass  |   Iteration  |   Objective   |     Step      |    Gradient   |    Relative    |  sum(beta~=0) |
|        |        |              |               |               |   magnitude   | change in Beta |               |
|=================================================================================================================|
|  LBFGS |      1 |            0 |  5.691016e+00 |  0.000000e+00 |  5.852758e-02 |                |             0 |
|  LBFGS |      1 |            1 |  5.086537e+00 |  8.000000e+00 |  5.220869e-02 |   9.846711e-02 |           256 |
|  LBFGS |      1 |            2 |  3.862301e+00 |  5.000000e-01 |  3.796034e-01 |   5.998808e-01 |           256 |
|  LBFGS |      1 |            3 |  3.460613e+00 |  1.000000e+00 |  3.257790e-01 |   1.615091e-01 |           256 |
|  LBFGS |      1 |            4 |  3.136228e+00 |  1.000000e+00 |  2.832861e-02 |   8.006254e-02 |           256 |
|  LBFGS |      1 |            5 |  3.063978e+00 |  1.000000e+00 |  1.475038e-02 |   3.314455e-02 |           256 |
|=================================================================================================================|

Mdl = 
  RegressionKernel
              ResponseName: 'Y'
                   Learner: 'svm'
    NumExpansionDimensions: 256
               KernelScale: 1
                    Lambda: 0.0028
             BoxConstraint: 1
                   Epsilon: 0.8617


  Properties, Methods

Mdl a RegressionKernel модель.

Стандартизируйте тестовые данные с помощью того же среднего и стандартного отклонения столбцов обучающих данных. Оцените нечувствительную к эпсилону ошибку для набора тестов.

Xtest = X(idxTest,:);
Ztest = (Xtest-tr_mu)./tr_sigma; % Standardize the test data
Ytest = Y(idxTest);

L = loss(Mdl,Ztest,Ytest,'LossFun','epsiloninsensitive')

L = 2.0674

Продолжите обучение модель при помощи resume. Эта функция продолжает обучение с теми же опциями, используемыми для учебного Mdl.

UpdatedMdl = resume(Mdl,Ztrain,Ytrain);

|=================================================================================================================|
| Solver |  Pass  |   Iteration  |   Objective   |     Step      |    Gradient   |    Relative    |  sum(beta~=0) |
|        |        |              |               |               |   magnitude   | change in Beta |               |
|=================================================================================================================|
|  LBFGS |      1 |            0 |  3.063978e+00 |  0.000000e+00 |  1.475038e-02 |                |           256 |
|  LBFGS |      1 |            1 |  3.007822e+00 |  8.000000e+00 |  1.391637e-02 |   2.603966e-02 |           256 |
|  LBFGS |      1 |            2 |  2.817171e+00 |  5.000000e-01 |  5.949008e-02 |   1.918084e-01 |           256 |
|  LBFGS |      1 |            3 |  2.807294e+00 |  2.500000e-01 |  6.798867e-02 |   2.973097e-02 |           256 |
|  LBFGS |      1 |            4 |  2.791060e+00 |  1.000000e+00 |  2.549575e-02 |   1.639328e-02 |           256 |
|  LBFGS |      1 |            5 |  2.767821e+00 |  1.000000e+00 |  6.154419e-03 |   2.468903e-02 |           256 |
|  LBFGS |      1 |            6 |  2.738163e+00 |  1.000000e+00 |  5.949008e-02 |   9.476263e-02 |           256 |
|  LBFGS |      1 |            7 |  2.719146e+00 |  1.000000e+00 |  1.699717e-02 |   1.849972e-02 |           256 |
|  LBFGS |      1 |            8 |  2.705941e+00 |  1.000000e+00 |  3.116147e-02 |   4.152590e-02 |           256 |
|  LBFGS |      1 |            9 |  2.701162e+00 |  1.000000e+00 |  5.665722e-03 |   9.401466e-03 |           256 |
|  LBFGS |      1 |           10 |  2.695341e+00 |  5.000000e-01 |  3.116147e-02 |   4.968046e-02 |           256 |
|  LBFGS |      1 |           11 |  2.691277e+00 |  1.000000e+00 |  8.498584e-03 |   1.017446e-02 |           256 |
|  LBFGS |      1 |           12 |  2.689972e+00 |  1.000000e+00 |  1.983003e-02 |   9.938921e-03 |           256 |
|  LBFGS |      1 |           13 |  2.688979e+00 |  1.000000e+00 |  1.416431e-02 |   6.606316e-03 |           256 |
|  LBFGS |      1 |           14 |  2.687787e+00 |  1.000000e+00 |  1.621956e-03 |   7.089542e-03 |           256 |
|  LBFGS |      1 |           15 |  2.686539e+00 |  1.000000e+00 |  1.699717e-02 |   1.169701e-02 |           256 |
|  LBFGS |      1 |           16 |  2.685356e+00 |  1.000000e+00 |  1.133144e-02 |   1.069310e-02 |           256 |
|  LBFGS |      1 |           17 |  2.685021e+00 |  5.000000e-01 |  1.133144e-02 |   2.104248e-02 |           256 |
|  LBFGS |      1 |           18 |  2.684002e+00 |  1.000000e+00 |  2.832861e-03 |   6.175231e-03 |           256 |
|  LBFGS |      1 |           19 |  2.683507e+00 |  1.000000e+00 |  5.665722e-03 |   3.724026e-03 |           256 |
|  LBFGS |      1 |           20 |  2.683343e+00 |  5.000000e-01 |  5.665722e-03 |   9.549119e-03 |           256 |
|=================================================================================================================|
| Solver |  Pass  |   Iteration  |   Objective   |     Step      |    Gradient   |    Relative    |  sum(beta~=0) |
|        |        |              |               |               |   magnitude   | change in Beta |               |
|=================================================================================================================|
|  LBFGS |      1 |           21 |  2.682897e+00 |  1.000000e+00 |  5.665722e-03 |   7.172867e-03 |           256 |
|  LBFGS |      1 |           22 |  2.682682e+00 |  1.000000e+00 |  2.832861e-03 |   2.587726e-03 |           256 |
|  LBFGS |      1 |           23 |  2.682485e+00 |  1.000000e+00 |  2.832861e-03 |   2.953648e-03 |           256 |
|  LBFGS |      1 |           24 |  2.682326e+00 |  1.000000e+00 |  2.832861e-03 |   7.777294e-03 |           256 |
|  LBFGS |      1 |           25 |  2.681914e+00 |  1.000000e+00 |  2.832861e-03 |   2.778555e-03 |           256 |
|  LBFGS |      1 |           26 |  2.681867e+00 |  5.000000e-01 |  1.031085e-03 |   3.638352e-03 |           256 |
|  LBFGS |      1 |           27 |  2.681725e+00 |  1.000000e+00 |  5.665722e-03 |   1.515199e-03 |           256 |
|  LBFGS |      1 |           28 |  2.681692e+00 |  5.000000e-01 |  1.314940e-03 |   1.850055e-03 |           256 |
|  LBFGS |      1 |           29 |  2.681625e+00 |  1.000000e+00 |  2.832861e-03 |   1.456903e-03 |           256 |
|  LBFGS |      1 |           30 |  2.681594e+00 |  5.000000e-01 |  2.832861e-03 |   8.704875e-04 |           256 |
|  LBFGS |      1 |           31 |  2.681581e+00 |  5.000000e-01 |  8.498584e-03 |   3.934768e-04 |           256 |
|  LBFGS |      1 |           32 |  2.681579e+00 |  1.000000e+00 |  8.498584e-03 |   1.847866e-03 |           256 |
|  LBFGS |      1 |           33 |  2.681553e+00 |  1.000000e+00 |  9.857038e-04 |   6.509825e-04 |           256 |
|  LBFGS |      1 |           34 |  2.681541e+00 |  5.000000e-01 |  8.498584e-03 |   6.635528e-04 |           256 |
|  LBFGS |      1 |           35 |  2.681499e+00 |  1.000000e+00 |  5.665722e-03 |   6.194735e-04 |           256 |
|  LBFGS |      1 |           36 |  2.681493e+00 |  5.000000e-01 |  1.133144e-02 |   1.617763e-03 |           256 |
|  LBFGS |      1 |           37 |  2.681473e+00 |  1.000000e+00 |  9.869233e-04 |   8.418484e-04 |           256 |
|  LBFGS |      1 |           38 |  2.681469e+00 |  1.000000e+00 |  5.665722e-03 |   1.069722e-03 |           256 |
|  LBFGS |      1 |           39 |  2.681432e+00 |  1.000000e+00 |  2.832861e-03 |   8.501930e-04 |           256 |
|  LBFGS |      1 |           40 |  2.681423e+00 |  2.500000e-01 |  1.133144e-02 |   9.543716e-04 |           256 |
|=================================================================================================================|
| Solver |  Pass  |   Iteration  |   Objective   |     Step      |    Gradient   |    Relative    |  sum(beta~=0) |
|        |        |              |               |               |   magnitude   | change in Beta |               |
|=================================================================================================================|
|  LBFGS |      1 |           41 |  2.681416e+00 |  1.000000e+00 |  2.832861e-03 |   8.763251e-04 |           256 |
|  LBFGS |      1 |           42 |  2.681413e+00 |  5.000000e-01 |  2.832861e-03 |   4.101888e-04 |           256 |
|  LBFGS |      1 |           43 |  2.681403e+00 |  1.000000e+00 |  5.665722e-03 |   2.713209e-04 |           256 |
|  LBFGS |      1 |           44 |  2.681392e+00 |  1.000000e+00 |  2.832861e-03 |   2.115241e-04 |           256 |
|  LBFGS |      1 |           45 |  2.681383e+00 |  1.000000e+00 |  2.832861e-03 |   2.872858e-04 |           256 |
|  LBFGS |      1 |           46 |  2.681374e+00 |  1.000000e+00 |  8.498584e-03 |   5.771001e-04 |           256 |
|  LBFGS |      1 |           47 |  2.681353e+00 |  1.000000e+00 |  2.832861e-03 |   3.160871e-04 |           256 |
|  LBFGS |      1 |           48 |  2.681334e+00 |  5.000000e-01 |  8.498584e-03 |   1.045502e-03 |           256 |
|  LBFGS |      1 |           49 |  2.681314e+00 |  1.000000e+00 |  7.878714e-04 |   1.505118e-03 |           256 |
|  LBFGS |      1 |           50 |  2.681306e+00 |  1.000000e+00 |  2.832861e-03 |   4.756894e-04 |           256 |
|  LBFGS |      1 |           51 |  2.681301e+00 |  1.000000e+00 |  1.133144e-02 |   3.664873e-04 |           256 |
|  LBFGS |      1 |           52 |  2.681288e+00 |  1.000000e+00 |  2.832861e-03 |   1.449821e-04 |           256 |
|  LBFGS |      1 |           53 |  2.681287e+00 |  2.500000e-01 |  1.699717e-02 |   2.357176e-04 |           256 |
|  LBFGS |      1 |           54 |  2.681282e+00 |  1.000000e+00 |  5.665722e-03 |   2.046663e-04 |           256 |
|  LBFGS |      1 |           55 |  2.681278e+00 |  1.000000e+00 |  2.832861e-03 |   2.546349e-04 |           256 |
|  LBFGS |      1 |           56 |  2.681276e+00 |  2.500000e-01 |  1.307940e-03 |   1.966786e-04 |           256 |
|  LBFGS |      1 |           57 |  2.681274e+00 |  5.000000e-01 |  1.416431e-02 |   1.005310e-04 |           256 |
|  LBFGS |      1 |           58 |  2.681271e+00 |  5.000000e-01 |  1.118892e-03 |   1.147324e-04 |           256 |
|  LBFGS |      1 |           59 |  2.681269e+00 |  1.000000e+00 |  2.832861e-03 |   1.332914e-04 |           256 |
|  LBFGS |      1 |           60 |  2.681268e+00 |  2.500000e-01 |  1.132045e-03 |   5.441369e-05 |           256 |
|=================================================================================================================|

Оцените нечувствительную к эпсилону ошибку для набора тестов с помощью обновленной модели.

UpdatedL = loss(UpdatedMdl,Ztest,Ytest,'LossFun','epsiloninsensitive')

UpdatedL = 1.8933

Ошибка регрессии уменьшается приблизительно на коэффициент 0.08 после resume обновляет модель регрессии с большим количеством итераций.

Введенный в R2018a

Документация

RegressionKernel

Описание

Создание

Свойства

Свойства регрессии ядра

`Epsilon` — Полуширина нечувствительной к эпсилону полосы
неотрицательный скаляр

`Learner` — Тип модели линейной регрессии
`'svm'` (значение по умолчанию) | `'leastsquares'`

`NumExpansionDimensions` — Количество размерностей расширенного пробела
положительное целое число

`KernelScale` — Масштабный коэффициент ядра
положительная скалярная величина

`BoxConstraint` — Ограничение поля
положительная скалярная величина

`Lambda` — Сила срока регуляризации
неотрицательный скаляр

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

Другие свойства регрессии

`CategoricalPredictors` — Индексы категориальных предикторов
вектор из положительных целых чисел

`ModelParameters` — Параметры используются для учебной модели
структура

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

`ResponseName` — Имя переменной отклика
символьный вектор

`ResponseTransform` — Преобразование ответа функционирует, чтобы примениться к предсказанным ответам
`'none'` | указатель на функцию

Функции объекта

Примеры

Обучите гауссову модель регрессии ядра

Оцените демонстрационную потерю и возобновите обучение

Смотрите также

Документация Statistics and Machine Learning Toolbox

Поддержка

Документация

RegressionKernel

Описание

Создание

Свойства

Свойства регрессии ядра

Epsilon — Полуширина нечувствительной к эпсилону полосы неотрицательный скаляр

Learner — Тип модели линейной регрессии 'svm' (значение по умолчанию) | 'leastsquares'

NumExpansionDimensions — Количество размерностей расширенного пробела положительное целое число

KernelScale — Масштабный коэффициент ядра положительная скалярная величина

BoxConstraint — Ограничение поля положительная скалярная величина

Lambda — Сила срока регуляризации неотрицательный скаляр

FittedLoss — Функция потерь раньше подбирала линейную модель 'epsiloninsensitive' | 'mse'

Regularization — Тип штрафа сложности 'lasso (L1)' | 'ridge (L2)'

Другие свойства регрессии

CategoricalPredictors — Индексы категориальных предикторов вектор из положительных целых чисел

ModelParameters — Параметры используются для учебной модели структура

PredictorNames — Имена предиктора массив ячеек из символьных векторов

ExpandedPredictorNames — Расширенные имена предиктора массив ячеек из символьных векторов

ResponseName — Имя переменной отклика символьный вектор

ResponseTransform — Преобразование ответа функционирует, чтобы примениться к предсказанным ответам 'none' | указатель на функцию

Функции объекта

Примеры

Обучите гауссову модель регрессии ядра

Оцените демонстрационную потерю и возобновите обучение

Смотрите также

Документация Statistics and Machine Learning Toolbox

Поддержка

`Epsilon` — Полуширина нечувствительной к эпсилону полосы
неотрицательный скаляр

`Learner` — Тип модели линейной регрессии
`'svm'` (значение по умолчанию) | `'leastsquares'`

`NumExpansionDimensions` — Количество размерностей расширенного пробела
положительное целое число

`KernelScale` — Масштабный коэффициент ядра
положительная скалярная величина

`BoxConstraint` — Ограничение поля
положительная скалярная величина

`Lambda` — Сила срока регуляризации
неотрицательный скаляр

`FittedLoss` — Функция потерь раньше подбирала линейную модель
`'epsiloninsensitive'` | `'mse'`

`Regularization` — Тип штрафа сложности
`'lasso (L1)'` | `'ridge (L2)'`

`CategoricalPredictors` — Индексы категориальных предикторов
вектор из положительных целых чисел

`ModelParameters` — Параметры используются для учебной модели
структура

`PredictorNames` — Имена предиктора
массив ячеек из символьных векторов

`ExpandedPredictorNames` — Расширенные имена предиктора
массив ячеек из символьных векторов

`ResponseName` — Имя переменной отклика
символьный вектор

`ResponseTransform` — Преобразование ответа функционирует, чтобы примениться к предсказанным ответам
`'none'` | указатель на функцию