Подбирайте линейную модель классификации к высоко-размерным данным
fitclinear
обучает линейные модели классификации 2D классу (бинарное) изучение с высоко-размерными, полными или разреженными данными о предикторе. Доступные линейные модели классификации включают упорядоченные машины опорных векторов (SVM) и модели логистической регрессии. fitclinear
минимизирует целевую функцию с помощью методов, которые уменьшают вычислительное время (e.g., стохастический градиентный спуск).
Для сокращения времени вычисления на высоко-размерном наборе данных, который включает много переменных предикторов, обучите линейную модель классификации при помощи fitclinear
. Для низкого - через средние размерные наборы данных предиктора, смотрите Альтернативы для Более низко-размерных Данных.
Чтобы обучить линейную модель классификации мультиклассу, учащемуся путем объединения SVM или двоичных классификаторов логистической регрессии с помощью выходных кодов с коррекцией ошибок, смотрите fitcecoc
.
возвращает линейную модель классификации использование переменных предикторов в таблице Mdl
= fitclinear(Tbl
,ResponseVarName
)Tbl
и класс помечает в Tbl.ResponseVarName
.
задает опции с помощью одного или нескольких аргументов пары "имя-значение" в дополнение к любой из комбинаций входных аргументов в предыдущих синтаксисах. Например, можно указать, что столбцы матрицы предиктора соответствуют наблюдениям, реализуют логистическую регрессию или задают, чтобы перекрестный подтвердить. Хорошая практика должна перекрестный подтвердить использование Mdl
= fitclinear(X
,Y
,Name,Value
)'Kfold'
аргумент пары "имя-значение". Результаты перекрестной проверки определяют, как хорошо модель делает вывод.
[
также возвращает детали гипероптимизации параметров управления, когда вы передаете Mdl
,FitInfo
,HyperparameterOptimizationResults
]
= fitclinear(___)OptimizeHyperparameters
пара "имя-значение".
Обучите двоичный файл, линейная модель классификации использование машин опорных векторов, двойного SGD и гребенчатой регуляризации.
Загрузите набор данных NLP.
load nlpdata
X
разреженная матрица данных о предикторе и Y
категориальный вектор из меток класса. В данных существует больше чем два класса.
Идентифицируйте метки, которые соответствуют веб-страницам документации Statistics and Machine Learning Toolbox™.
Ystats = Y == 'stats';
Обучите двоичный файл, линейная модель классификации, которая может идентифицировать, являются ли подсчеты слов в веб-странице документации из документации Statistics and Machine Learning Toolbox™. Обучите модель с помощью целого набора данных. Определите, как хорошо алгоритм оптимизации подбирает модель к данным путем извлечения подходящих сводных данных.
rng(1); % For reproducibility
[Mdl,FitInfo] = fitclinear(X,Ystats)
Mdl = ClassificationLinear ResponseName: 'Y' ClassNames: [0 1] ScoreTransform: 'none' Beta: [34023x1 double] Bias: -1.0059 Lambda: 3.1674e-05 Learner: 'svm' Properties, Methods
FitInfo = struct with fields:
Lambda: 3.1674e-05
Objective: 5.3783e-04
PassLimit: 10
NumPasses: 10
BatchLimit: []
NumIterations: 238561
GradientNorm: NaN
GradientTolerance: 0
RelativeChangeInBeta: 0.0562
BetaTolerance: 1.0000e-04
DeltaGradient: 1.4582
DeltaGradientTolerance: 1
TerminationCode: 0
TerminationStatus: {'Iteration limit exceeded.'}
Alpha: [31572x1 double]
History: []
FitTime: 0.1012
Solver: {'dual'}
Mdl
ClassificationLinear
модель. Можно передать Mdl
и учебные или новые данные к loss
смотреть ошибку классификации в выборке. Или, можно передать Mdl
и новые данные о предикторе к predict
предсказать класс помечает для новых наблюдений.
FitInfo
массив структур, содержащий, среди прочего, состояние завершения (TerminationStatus
) и сколько времени решатель взял, чтобы подбирать модель к данным (FitTime
). Это - хорошая практика, чтобы использовать FitInfo
определить, являются ли измерения завершения оптимизации удовлетворительными. Поскольку учебное время мало, можно попытаться переобучить модель, но увеличить количество проходов через данные. Это может улучшить меры как DeltaGradient
.
Чтобы определить хорошую силу штрафа лассо для линейной модели классификации, которая использует ученика логистической регрессии, реализуйте 5-кратную перекрестную проверку.
Загрузите набор данных NLP.
load nlpdata
X
разреженная матрица данных о предикторе и Y
категориальный вектор из меток класса. В данных существует больше чем два класса.
Модели должны идентифицировать, являются ли подсчеты слов в веб-странице из документации Statistics and Machine Learning Toolbox™. Так, идентифицируйте метки, которые соответствуют веб-страницам документации Statistics and Machine Learning Toolbox™.
Ystats = Y == 'stats';
Создайте набор 11 логарифмически распределенных сильных мест регуляризации от через .
Lambda = logspace(-6,-0.5,11);
Перекрестный подтвердите модели. Чтобы увеличить скорость выполнения, транспонируйте данные о предикторе и укажите, что наблюдения находятся в столбцах. Оцените содействующее использование SpaRSA. Понизьте допуск на градиент целевой функции к 1e-8
.
X = X'; rng(10); % For reproducibility CVMdl = fitclinear(X,Ystats,'ObservationsIn','columns','KFold',5,... 'Learner','logistic','Solver','sparsa','Regularization','lasso',... 'Lambda',Lambda,'GradientTolerance',1e-8)
CVMdl = ClassificationPartitionedLinear CrossValidatedModel: 'Linear' ResponseName: 'Y' NumObservations: 31572 KFold: 5 Partition: [1×1 cvpartition] ClassNames: [0 1] ScoreTransform: 'none' Properties, Methods
numCLModels = numel(CVMdl.Trained)
numCLModels = 5
CVMdl
ClassificationPartitionedLinear
модель. Поскольку fitclinear
реализует 5-кратную перекрестную проверку, CVMdl
содержит 5 ClassificationLinear
модели, которые программное обеспечение обучает на каждом сгибе.
Отобразите первую обученную линейную модель классификации.
Mdl1 = CVMdl.Trained{1}
Mdl1 = ClassificationLinear ResponseName: 'Y' ClassNames: [0 1] ScoreTransform: 'logit' Beta: [34023×11 double] Bias: [-13.2559 -13.2559 -13.2559 -13.2559 -9.1017 -7.1128 -5.4113 -4.4974 -3.6007 -3.1606 -2.9794] Lambda: [1.0000e-06 3.5481e-06 1.2589e-05 4.4668e-05 1.5849e-04 5.6234e-04 0.0020 0.0071 0.0251 0.0891 0.3162] Learner: 'logistic' Properties, Methods
Mdl1
ClassificationLinear
объект модели. fitclinear
созданный Mdl1
по образованию на первых четырех сгибах. Поскольку Lambda
последовательность сильных мест регуляризации, можно думать о Mdl1
как 11 моделей, один для каждой силы регуляризации в Lambda
.
Оцените перекрестную подтвержденную ошибку классификации.
ce = kfoldLoss(CVMdl);
Поскольку существует 11 сильных мест регуляризации, ce
вектор 1 на 11 из коэффициентов ошибок классификации.
Более высокие значения Lambda
приведите к разреженности переменного предиктора, которая является хорошим качеством классификатора. Для каждой силы регуляризации обучите линейную модель классификации использование целого набора данных и тех же опций как тогда, когда вы перекрестный подтвержденный модели. Определите количество ненулевых коэффициентов на модель.
Mdl = fitclinear(X,Ystats,'ObservationsIn','columns',... 'Learner','logistic','Solver','sparsa','Regularization','lasso',... 'Lambda',Lambda,'GradientTolerance',1e-8); numNZCoeff = sum(Mdl.Beta~=0);
На том же рисунке постройте перекрестное подтвержденное, коэффициенты ошибок классификации и частоту ненулевых коэффициентов для каждой силы регуляризации. Постройте все переменные на логарифмической шкале.
figure; [h,hL1,hL2] = plotyy(log10(Lambda),log10(ce),... log10(Lambda),log10(numNZCoeff)); hL1.Marker = 'o'; hL2.Marker = 'o'; ylabel(h(1),'log_{10} classification error') ylabel(h(2),'log_{10} nonzero-coefficient frequency') xlabel('log_{10} Lambda') title('Test-Sample Statistics') hold off
Выберите индекс силы регуляризации, которая балансирует разреженность переменного предиктора и низкую ошибку классификации. В этом случае, значение между к должен быть достаточным.
idxFinal = 7;
Выберите модель из Mdl
с выбранной силой регуляризации.
MdlFinal = selectModels(Mdl,idxFinal);
MdlFinal
ClassificationLinear
модель, содержащая одну силу регуляризации. Чтобы оценить метки для новых наблюдений, передайте MdlFinal
и новые данные к predict
.
В этом примере показано, как минимизировать ошибку перекрестной проверки в линейном классификаторе с помощью fitclinear
. Пример использует набор данных NLP.
Загрузите набор данных NLP.
load nlpdata
X
разреженная матрица данных о предикторе и Y
категориальный вектор из меток класса. В данных существует больше чем два класса.
Модели должны идентифицировать, являются ли подсчеты слов в веб-странице из документации Statistics and Machine Learning Toolbox™. Идентифицируйте соответствующие метки.
X = X';
Ystats = Y == 'stats';
Оптимизируйте классификацию с помощью 'auto'
параметры.
Для воспроизводимости установите случайный seed и используйте 'expected-improvement-plus'
функция приобретения.
rng default Mdl = fitclinear(X,Ystats,'ObservationsIn','columns','Solver','sparsa',... 'OptimizeHyperparameters','auto','HyperparameterOptimizationOptions',... struct('AcquisitionFunctionName','expected-improvement-plus'))
|=====================================================================================================| | Iter | Eval | Objective | Objective | BestSoFar | BestSoFar | Lambda | Learner | | | result | | runtime | (observed) | (estim.) | | | |=====================================================================================================| | 1 | Best | 0.041619 | 4.0257 | 0.041619 | 0.041619 | 0.077903 | logistic |
| 2 | Best | 0.00072849 | 3.8245 | 0.00072849 | 0.0028767 | 2.1405e-09 | logistic |
| 3 | Accept | 0.049221 | 4.6777 | 0.00072849 | 0.00075737 | 0.72101 | svm |
| 4 | Accept | 0.00079184 | 4.299 | 0.00072849 | 0.00074989 | 3.4734e-07 | svm |
| 5 | Accept | 0.00082351 | 3.9102 | 0.00072849 | 0.00072924 | 1.1738e-08 | logistic |
| 6 | Accept | 0.00085519 | 4.2132 | 0.00072849 | 0.00072746 | 2.4529e-09 | svm |
| 7 | Accept | 0.00079184 | 4.1282 | 0.00072849 | 0.00072518 | 3.1854e-08 | svm |
| 8 | Accept | 0.00088686 | 4.4564 | 0.00072849 | 0.00072236 | 3.1717e-10 | svm |
| 9 | Accept | 0.00076017 | 3.7918 | 0.00072849 | 0.00068304 | 3.1837e-10 | logistic |
| 10 | Accept | 0.00079184 | 4.4733 | 0.00072849 | 0.00072853 | 1.1258e-07 | svm |
| 11 | Accept | 0.00076017 | 3.9953 | 0.00072849 | 0.00072144 | 2.1214e-09 | logistic |
| 12 | Accept | 0.00079184 | 6.7875 | 0.00072849 | 0.00075984 | 2.2819e-07 | logistic |
| 13 | Accept | 0.00072849 | 4.2131 | 0.00072849 | 0.00075648 | 6.6161e-08 | logistic |
| 14 | Best | 0.00069682 | 4.3785 | 0.00069682 | 0.00069781 | 7.4324e-08 | logistic |
| 15 | Best | 0.00066515 | 4.3717 | 0.00066515 | 0.00068861 | 7.6994e-08 | logistic |
| 16 | Accept | 0.00076017 | 3.9068 | 0.00066515 | 0.00068881 | 7.0687e-10 | logistic |
| 17 | Accept | 0.00066515 | 4.5966 | 0.00066515 | 0.0006838 | 7.7159e-08 | logistic |
| 18 | Accept | 0.0012353 | 4.6723 | 0.00066515 | 0.00068521 | 0.00083275 | svm |
| 19 | Accept | 0.00076017 | 4.2389 | 0.00066515 | 0.00068508 | 5.0781e-05 | svm |
| 20 | Accept | 0.00085519 | 3.2483 | 0.00066515 | 0.00068527 | 0.00022104 | svm |
|=====================================================================================================| | Iter | Eval | Objective | Objective | BestSoFar | BestSoFar | Lambda | Learner | | | result | | runtime | (observed) | (estim.) | | | |=====================================================================================================| | 21 | Accept | 0.00082351 | 6.7163 | 0.00066515 | 0.00068569 | 4.5396e-06 | svm |
| 22 | Accept | 0.0010769 | 15.946 | 0.00066515 | 0.00070107 | 5.1931e-06 | logistic |
| 23 | Accept | 0.00095021 | 17.989 | 0.00066515 | 0.00069594 | 1.3051e-06 | logistic |
| 24 | Accept | 0.00085519 | 5.5831 | 0.00066515 | 0.00069625 | 1.6481e-05 | svm |
| 25 | Accept | 0.00085519 | 4.5366 | 0.00066515 | 0.00069643 | 1.157e-06 | svm |
| 26 | Accept | 0.00079184 | 3.6968 | 0.00066515 | 0.00069667 | 1.0016e-08 | svm |
| 27 | Accept | 0.00072849 | 3.9655 | 0.00066515 | 0.00069848 | 4.2234e-08 | logistic |
| 28 | Accept | 0.049221 | 0.49611 | 0.00066515 | 0.00069842 | 3.1608 | logistic |
| 29 | Accept | 0.00085519 | 4.3911 | 0.00066515 | 0.00069855 | 8.5626e-10 | svm |
| 30 | Accept | 0.00076017 | 3.8952 | 0.00066515 | 0.00069837 | 3.1946e-10 | logistic |
__________________________________________________________ Optimization completed. MaxObjectiveEvaluations of 30 reached. Total function evaluations: 30 Total elapsed time: 173.5287 seconds. Total objective function evaluation time: 153.4246 Best observed feasible point: Lambda Learner __________ ________ 7.6994e-08 logistic Observed objective function value = 0.00066515 Estimated objective function value = 0.00069859 Function evaluation time = 4.3717 Best estimated feasible point (according to models): Lambda Learner __________ ________ 7.4324e-08 logistic Estimated objective function value = 0.00069837 Estimated function evaluation time = 4.3951
Mdl = ClassificationLinear ResponseName: 'Y' ClassNames: [0 1] ScoreTransform: 'logit' Beta: [34023×1 double] Bias: -10.1723 Lambda: 7.4324e-08 Learner: 'logistic' Properties, Methods
X
— Данные о предиктореДанные о предикторе в виде n-by-p полная или разреженная матрица.
Длина Y
и количество наблюдений в X
должно быть равным.
Примечание
Если вы ориентируете свою матрицу предиктора так, чтобы наблюдения соответствовали столбцам и задали 'ObservationsIn','columns'
, затем вы можете испытать значительное сокращение во время выполнения оптимизации.
Типы данных: single
| double
Y
— Метки классаКласс помечает, к которому модель классификации обучена в виде категориального, символа, или массива строк, логического или числового вектора или массива ячеек из символьных векторов.
fitclinear
только классификация двоичных файлов поддержек. Любой Y
должен содержать точно два отличных класса, или необходимо задать два класса для обучения с помощью 'ClassNames'
аргумент пары "имя-значение". Для изучения мультикласса смотрите fitcecoc
.
Если Y
символьный массив, затем каждый элемент должен соответствовать одной строке массива.
Длина Y
должно быть равно количеству наблюдений в X
или Tbl
.
Хорошая практика должна задать порядок класса с помощью ClassNames
аргумент пары "имя-значение".
Типы данных: char |
string
| cell
| categorical
| logical
| single
| double
Tbl
— Выборочные данныеВыборочные данные раньше обучали модель в виде таблицы. Каждая строка Tbl
соответствует одному наблюдению, и каждый столбец соответствует одному переменному предиктору. Опционально, Tbl
может содержать один дополнительный столбец для переменной отклика. Многостолбцовые переменные и массивы ячеек кроме массивов ячеек из символьных векторов не позволены.
Если Tbl
содержит переменную отклика, и вы хотите использовать все остающиеся переменные в Tbl
как предикторы, затем задайте переменную отклика при помощи ResponseVarName
.
Если Tbl
содержит переменную отклика, и вы хотите использовать только подмножество остающихся переменных в Tbl
как предикторы, затем задайте формулу при помощи formula
.
Если Tbl
не содержит переменную отклика, затем задает переменную отклика при помощи Y
. Длина переменной отклика и количество строк в Tbl
должно быть равным.
Типы данных: table
ResponseVarName
— Имя переменной откликаTbl
Имя переменной отклика в виде имени переменной в Tbl
.
Необходимо задать ResponseVarName
как вектор символов или строковый скаляр. Например, если переменная отклика Y
хранится как Tbl.Y
, затем задайте его как 'Y'
. В противном случае программное обеспечение обрабатывает все столбцы Tbl
, включая Y
, как предикторы, когда обучение модель.
Переменная отклика должна быть категориальным, символом, или массивом строк, логическим или числовым вектором или массивом ячеек из символьных векторов. Если Y
символьный массив, затем каждый элемент переменной отклика должен соответствовать одной строке массива.
Хорошая практика должна задать порядок классов при помощи ClassNames
аргумент пары "имя-значение".
Типы данных: char |
string
formula
— Объяснительная модель переменной отклика и подмножество переменных предикторовОбъяснительная модель переменной отклика и подмножество переменных предикторов в виде вектора символов или строкового скаляра в форме 'Y~X1+X2+X3'
. В этой форме, Y
представляет переменную отклика и X1
x2
, и X3
представляйте переменные предикторы.
Задавать подмножество переменных в Tbl
как предикторы для обучения модель, используйте формулу. Если вы задаете формулу, то программное обеспечение не использует переменных в Tbl
это не появляется в formula
.
Имена переменных в формуле должны быть оба именами переменных в Tbl
(Tbl.Properties.VariableNames
) и допустимые идентификаторы MATLAB®.
Можно проверить имена переменных в Tbl
при помощи isvarname
функция. Следующий код возвращает логический 1
TRUE
) для каждой переменной, которая имеет допустимое имя переменной.
cellfun(@isvarname,Tbl.Properties.VariableNames)
Tbl
не допустимы, затем преобразуют их при помощи matlab.lang.makeValidName
функция.Tbl.Properties.VariableNames = matlab.lang.makeValidName(Tbl.Properties.VariableNames);
Типы данных: char |
string
Примечание
Программное обеспечение обрабатывает NaN
, пустой символьный вектор (''
), пустая строка (""
), <missing>
, и <undefined>
элементы как отсутствующие значения, и удаляют наблюдения с любой из этих характеристик:
Отсутствующее значение в переменной отклика (например, Y
или ValidationData
{2})
По крайней мере одно отсутствующее значение в наблюдении предиктора (например, строка в X
или ValidationData{1}
)
NaN
значение или 0
вес (например, значение в Weights
или ValidationData{3}
)
Для экономики использования памяти это - лучшая практика удалить наблюдения, содержащие отсутствующие значения от ваших обучающих данных вручную перед обучением.
Задайте дополнительные разделенные запятой пары Name,Value
аргументы. Name
имя аргумента и Value
соответствующее значение. Name
должен появиться в кавычках. Вы можете задать несколько аргументов в виде пар имен и значений в любом порядке, например: Name1, Value1, ..., NameN, ValueN
.
'ObservationsIn','columns','Learner','logistic','CrossVal','on'
указывает, что столбцы матрицы предиктора соответствуют наблюдениям, чтобы реализовать логистическую регрессию, реализовать 10-кратную перекрестную проверку.Примечание
Вы не можете использовать аргумент пары "имя-значение" перекрестной проверки наряду с 'OptimizeHyperparameters'
аргумент пары "имя-значение". Можно изменить перекрестную проверку для 'OptimizeHyperparameters'
только при помощи 'HyperparameterOptimizationOptions'
аргумент пары "имя-значение".
'Lambda'
— Сила срока регуляризации'auto'
(значение по умолчанию) | неотрицательный скаляр | вектор из неотрицательных значенийСила срока регуляризации в виде разделенной запятой пары, состоящей из 'Lambda'
и 'auto'
, неотрицательный скаляр или вектор из неотрицательных значений.
Для 'auto'
\lambda
= 1/n.
Если вы задаете перекрестную проверку, аргумент пары "имя-значение" (например, CrossVal
), затем n является количеством, окутывают наблюдения.
В противном случае n является размером обучающей выборки.
Для вектора из неотрицательных значений, fitclinear
последовательно оптимизирует целевую функцию для каждого отличного значения в Lambda
в порядке возрастания.
Если Solver
'sgd'
или 'asgd'
и Regularization
'lasso'
, fitclinear
не использует предыдущие содействующие оценки в качестве горячего запуска для следующей итерации оптимизации. В противном случае, fitclinear
горячие запуски использования.
Если Regularization
'lasso'
, затем любая содействующая оценка 0 сохраняет свое значение когда fitclinear
оптимизирует использующие последующие значения в Lambda
.
fitclinear
возвращает содействующие оценки для каждой заданной силы регуляризации.
Пример: 'Lambda',10.^(-(10:-2:2))
Типы данных: char |
string
| double
| single
'Learner'
— Линейный тип модели классификации'svm'
(значение по умолчанию) | 'logistic'
Линейный тип модели классификации в виде разделенной запятой пары, состоящей из 'Learner'
и 'svm'
или 'logistic'
.
В этой таблице,
β является вектором из коэффициентов p.
x является наблюдением от переменных предикторов p.
b является скалярным смещением.
Значение | Алгоритм | Область значений ответа | Функция потерь |
---|---|---|---|
'svm' | Машина опорных векторов | y ∊ {-1,1}; 1 для положительного класса и –1 в противном случае | Стержень: |
'logistic' | Логистическая регрессия | То же самое как 'svm' | (Логистическое) отклонение: |
Пример: 'Learner','logistic'
'ObservationsIn'
— Размерность наблюдения данных о предикторе'rows'
(значение по умолчанию) | 'columns'
Размерность наблюдения данных о предикторе в виде разделенной запятой пары, состоящей из 'ObservationsIn'
и 'columns'
или 'rows'
.
Примечание
Если вы ориентируете свою матрицу предиктора так, чтобы наблюдения соответствовали столбцам и задали 'ObservationsIn','columns'
, затем вы можете испытать значительное сокращение во время выполнения оптимизации. Вы не можете задать 'ObservationsIn','columns'
для данных о предикторе в таблице.
'Regularization'
— Тип штрафа сложности'lasso'
| 'ridge'
Штраф сложности вводит в виде разделенной запятой пары, состоящей из 'Regularization'
и 'lasso'
или 'ridge'
.
Программное обеспечение составляет целевую функцию для минимизации от суммы средней функции потерь (см. Learner
) и регуляризация называет в этой таблице.
Значение | Описание |
---|---|
'lasso' | Лассо (L1) штраф: |
'ridge' | Гребень (L2) штраф: |
Чтобы задать регуляризацию называют силу, которая является λ в выражениях, используйте Lambda
.
Программное обеспечение исключает срок смещения (β 0) от штрафа регуляризации.
Если Solver
'sparsa'
, затем значение по умолчанию Regularization
'lasso'
. В противном случае значением по умолчанию является 'ridge'
.
Совет
Для выбора переменного предиктора задайте 'lasso'
. Для больше на выборе переменной, смотрите Введение в Выбор признаков.
Для точности оптимизации задайте 'ridge'
.
Пример: 'Regularization','lasso'
'Solver'
— Метод минимизации целевой функции'sgd'
| 'asgd'
| 'dual'
| 'bfgs'
| 'lbfgs'
| 'sparsa'
| массив строк | массив ячеек из символьных векторовМетод минимизации целевой функции в виде разделенной запятой пары, состоящей из 'Solver'
и вектор символов или строковый скаляр, массив строк или массив ячеек из символьных векторов со значениями из этой таблицы.
Значение | Описание | Ограничения |
---|---|---|
'sgd' | Stochastic gradient descent (SGD) [4][2] | |
'asgd' | Средний стохастический градиентный спуск (ASGD) [7] | |
'dual' | Двойной SGD для SVM [1][6] | Regularization должен быть 'ridge' и Learner должен быть 'svm' . |
'bfgs' | Алгоритм квазиньютона Бройдена Флетчера Голдфарба Шэнно (BFGS) [3] | Неэффективный, если X является очень высоко-размерным. |
'lbfgs' | Ограниченная память BFGS (LBFGS) [3] | Regularization должен быть 'ridge' . |
'sparsa' | Разреженная реконструкция отделимым приближением (SpaRSA) [5] | Regularization должен быть 'lasso' . |
Если вы задаете:
Гребенчатый штраф (см. Regularization
) и X
содержит 100 или меньше переменных предикторов, затем решателем по умолчанию является 'bfgs'
.
Модель SVM (см. Learner
), гребенчатый штраф и X
содержит больше чем 100 переменных предикторов, затем решателем по умолчанию является 'dual'
.
Штраф лассо и X
содержит 100 или меньше переменных предикторов, затем решателем по умолчанию является 'sparsa'
.
В противном случае решателем по умолчанию является 'sgd'
.
Если вы задаете массив строк или массив ячеек имен решателя, то программное обеспечение использует все решатели в заданном порядке для каждого Lambda
.
Для получения дополнительной информации о который решатель выбрать, смотрите Советы.
Пример: 'Solver',{'sgd','lbfgs'}
'Beta'
— Начальные линейные содействующие оценкинули (p
,1)
(значение по умолчанию) | числовой вектор | числовая матрицаНачальный линейный коэффициент оценивает (β) в виде разделенной запятой пары, состоящей из 'Beta'
и p - размерный числовой вектор или p-by-L числовая матрица. p является количеством переменных предикторов в X
и L является количеством значений силы регуляризации (для получения дополнительной информации, смотрите Lambda
).
Если вы задаете p - размерный вектор, то программное обеспечение оптимизирует целевую функцию времена L с помощью этого процесса.
Программное обеспечение оптимизирует использование Beta
как начальное значение и минимальное значение Lambda
как сила регуляризации.
Программное обеспечение оптимизирует снова использование получившейся оценки от предыдущей оптимизации как горячий запуск и следующее наименьшее значение в Lambda
как сила регуляризации.
Программное обеспечение реализует шаг 2, пока это не исчерпывает все значения в Lambda
.
Если вы задаете p-by-L матрица, то программное обеспечение оптимизирует целевую функцию времена L. В итерации j
, программное обеспечение использует Бету (:
как начальное значение и, после того, как это сортирует J
)Lambda
в порядке возрастания, Lambda
использования (
как сила регуляризации.j
)
Если вы устанавливаете 'Solver','dual'
, затем программное обеспечение игнорирует Beta
.
Типы данных: single
| double
'Bias'
— Начальная оценка прерыванияНачальная оценка прерывания (b) в виде разделенной запятой пары, состоящей из 'Bias'
и числовой скаляр или L - размерный числовой вектор. L является количеством значений силы регуляризации (для получения дополнительной информации, смотрите Lambda
).
Если вы задаете скаляр, то программное обеспечение оптимизирует целевую функцию времена L с помощью этого процесса.
Программное обеспечение оптимизирует использование Bias
как начальное значение и минимальное значение Lambda
как сила регуляризации.
Использование получившаяся оценка как горячий запуск к следующей итерации оптимизации и использование следующее наименьшее значение в Lambda
как сила регуляризации.
Программное обеспечение реализует шаг 2, пока это не исчерпывает все значения в Lambda
.
Если вы задаете L - размерный вектор, то программное обеспечение оптимизирует целевую функцию времена L. В итерации j
, программное обеспечение использует Смещение (
как начальное значение и, после того, как это сортирует j
)Lambda
в порядке возрастания, Lambda
использования (
как сила регуляризации.j
)
По умолчанию:
Если Learner
'logistic'
, затем позвольте gj быть 1 если Y (
положительный класс, и-1 в противном случае. j
)Bias
взвешенное среднее g для обучения или, для перекрестной проверки, окутайте наблюдения.
Если Learner
'svm'
, затем Bias
0.
Типы данных: single
| double
'FitBias'
— Линейный флаг включения прерывания моделиtrue
(значение по умолчанию) | false
Линейное включение прерывания модели отмечает в виде разделенной запятой пары, состоящей из 'FitBias'
и true
или false
.
Значение | Описание |
---|---|
true | Программное обеспечение включает срок смещения b в линейную модель, и затем оценивает его. |
false | Программное обеспечение устанавливает b = 0 во время оценки. |
Пример: 'FitBias',false
Типы данных: логический
'PostFitBias'
— Отметьте, чтобы соответствовать линейному прерыванию модели после оптимизацииfalse
(значение по умолчанию) | true
Отметьте, чтобы соответствовать линейному прерыванию модели после оптимизации в виде разделенной запятой пары, состоящей из 'PostFitBias'
и true
или false
.
Значение | Описание |
---|---|
false | Программное обеспечение оценивает, что смещение называет b и коэффициенты β во время оптимизации. |
true |
Оценить b, программное обеспечение:
|
Если вы задаете true
, затем FitBias
должно быть верным.
Пример: 'PostFitBias',true
Типы данных: логический
'Verbose'
— Уровень многословия
(значение по умолчанию) | неотрицательное целое числоУровень многословия в виде разделенной запятой пары, состоящей из 'Verbose'
и неотрицательное целое число. Verbose
управляет суммой диагностической информации fitclinear
отображения в командной строке.
Значение | Описание |
---|---|
0
| fitclinear не отображает диагностическую информацию. |
1
| fitclinear периодически отображения и хранилища значение целевой функции, величины градиента и другой диагностической информации. FitInfo.History содержит диагностическую информацию. |
Любое другое положительное целое число | fitclinear отображения и хранят диагностическую информацию в каждой итерации оптимизации. FitInfo.History содержит диагностическую информацию. |
Пример: 'Verbose',1
Типы данных: double |
single
'BatchSize'
— Мини-пакетный размерМини-пакетный размер в виде разделенной запятой пары, состоящей из 'BatchSize'
и положительное целое число. В каждой итерации программное обеспечение оценивает подградиент с помощью BatchSize
наблюдения от обучающих данных.
Если X
числовая матрица, затем значением по умолчанию является 10
.
Если X
разреженная матрица, затем значением по умолчанию является max([10,ceil(sqrt(ff))])
, где ff = numel(X)/nnz(X)
(fullness factor X
).
Пример: 'BatchSize',100
Типы данных: single
| double
'LearnRate'
— Скорость обученияСкорость обучения в виде разделенной запятой пары, состоящей из 'LearnRate'
и положительная скалярная величина. LearnRate
управляет размером шага оптимизации путем масштабирования подградиента.
Если Regularization
'ridge'
, затем LearnRate
задает начальную скорость обучения γ 0. fitclinear
определяет скорость обучения для итерации t, γt, с помощью
Если Regularization
'lasso'
, затем, для всех итераций, LearnRate
является постоянным.
По умолчанию, LearnRate
1/sqrt(1+max((sum(X.^2,obsDim))))
, где obsDim
1
если наблюдения составляют столбцы данных о предикторе X
, и 2
в противном случае.
Пример: 'LearnRate',0.01
Типы данных: single
| double
'OptimizeLearnRate'
— Отметьте, чтобы уменьшить скорость обученияtrue
(значение по умолчанию) | false
Отметьте, чтобы уменьшить скорость обучения, когда программное обеспечение обнаружит расхождение (то есть, переступая через минимум) в виде разделенной запятой пары, состоящей из 'OptimizeLearnRate'
и true
или false
.
Если OptimizeLearnRate
'true'
то:
Для нескольких итераций оптимизации программное обеспечение запускает оптимизацию с помощью LearnRate
как скорость обучения.
Если значение увеличений целевой функции, то перезапуски программного обеспечения и использование половина текущего значения скорости обучения.
Программное обеспечение выполняет итерации шага 2, пока целевая функция не уменьшается.
Пример: 'OptimizeLearnRate',true
Типы данных: логический
'TruncationPeriod'
— Количество мини-пакетов между запусками усечения лассо
(значение по умолчанию) | положительное целое числоКоличество мини-пакетов между усечением лассо запускается в виде разделенной запятой пары, состоящей из 'TruncationPeriod'
и положительное целое число.
После запущенного усечения программное обеспечение применяет мягкий порог к линейным коэффициентам. Таким образом, после обработки k = TruncationPeriod
мини-пакеты, программное обеспечение обрезает предполагаемый коэффициент использование j
Для SGD, оценка коэффициента j после обработки мини-пакетов k. γt является скоростью обучения в итерации t. λ является значением Lambda
.
Для ASGD, усредненный оценочный коэффициент j после обработки мини-пакетов k,
Если Regularization
'ridge'
, затем программное обеспечение игнорирует TruncationPeriod
.
Пример: 'TruncationPeriod',100
Типы данных: single
| double
'CategoricalPredictors'
— Категориальный список предикторов'all'
Категориальные предикторы перечисляют в виде разделенной запятой пары, состоящей из 'CategoricalPredictors'
и одно из значений в этой таблице. Описания принимают, что данные о предикторе имеют наблюдения в строках и предикторы в столбцах.
Значение | Описание |
---|---|
Вектор из положительных целых чисел | Каждая запись в векторе является значением индекса, соответствующим столбцу данных о предикторе (X или Tbl ) это содержит категориальную переменную. |
Логический вектор | true запись означает что соответствующий столбец данных о предикторе (X или Tbl ) категориальная переменная. |
Символьная матрица | Каждая строка матрицы является именем переменного предиктора. Имена должны совпадать с записями в PredictorNames . Заполните имена дополнительными пробелами, таким образом, каждая строка символьной матрицы имеет ту же длину. |
Массив строк или массив ячеек из символьных векторов | Каждым элементом в массиве является имя переменного предиктора. Имена должны совпадать с записями в PredictorNames . |
'all' | Все предикторы являются категориальными. |
По умолчанию, если данные о предикторе находятся в таблице (Tbl
), fitclinear
принимает, что переменная является категориальной, если это - логический вектор, категориальный вектор, символьный массив, массив строк или массив ячеек из символьных векторов. Если данные о предикторе являются матрицей (X
), fitclinear
принимает, что все предикторы непрерывны. Чтобы идентифицировать любые другие предикторы как категориальные предикторы, задайте их при помощи 'CategoricalPredictors'
аргумент пары "имя-значение".
Для идентифицированных категориальных предикторов, fitclinear
создает фиктивные переменные с помощью двух различных схем, в зависимости от того, не упорядочена ли категориальная переменная или упорядочена. Для неупорядоченной категориальной переменной, fitclinear
создает одну фиктивную переменную для каждого уровня категориальной переменной. Для упорядоченной категориальной переменной, fitclinear
создает тот меньше фиктивной переменной, чем количество категорий. Для получения дополнительной информации смотрите Автоматическое Создание Фиктивных Переменных.
Пример: 'CategoricalPredictors','all'
Типы данных: single
| double
| logical
| char
| string
| cell
'ClassNames'
— Имена классов, чтобы использовать для обученияИмена классов, чтобы использовать для обучения в виде разделенной запятой пары, состоящей из 'ClassNames'
и категориальное, символ, или массив строк, логический или числовой вектор или массив ячеек из символьных векторов. ClassNames
должен иметь совпадающий тип данных как Y
.
Если ClassNames
символьный массив, затем каждый элемент должен соответствовать одной строке массива.
Используйте 'ClassNames'
к:
Закажите классы во время обучения.
Задайте порядок любой размерности аргумента ввода или вывода, которая соответствует порядку класса. Например, используйте 'ClassNames'
задавать порядок размерностей Cost
или порядок следования столбцов классификационных оценок, возвращенных predict
.
Выберите подмножество классов для обучения. Например, предположите что набор всех отличных имен классов в Y
{'a','b','c'}
. Обучать модель с помощью наблюдений от классов 'a'
и 'c'
только, задайте 'ClassNames',{'a','c'}
.
Значение по умолчанию для ClassNames
набор всех отличных имен классов в Y
.
Пример: 'ClassNames',{'b','g'}
Типы данных: categorical
| char
| string
| logical
| single
| double
| cell
'Cost'
— Misclassification стоитсяСтоимость Misclassification в виде разделенной запятой пары, состоящей из 'Cost'
и квадратная матрица или структура.
Если вы задаете квадратную матрицу cost
('Cost',cost
), затем cost(i,j)
стоимость классификации точки в класс j
если его истинным классом является i
. Таким образом, строки соответствуют истинному классу, и столбцы соответствуют предсказанному классу. Чтобы задать класс заказывают для соответствующих строк и столбцов cost
, используйте ClassNames
аргумент пары "имя-значение".
Если вы задаете структуру S
('Cost',S
), затем это должно иметь два поля:
S.ClassNames
, который содержит имена классов как переменную совпадающего типа данных как Y
S.ClassificationCosts
, который содержит матрицу стоимости со строками и столбцами, упорядоченными как в S.ClassNames
Значение по умолчанию для Cost
единицы (
, где K
) – глаз (K
)K
количество отличных классов.
fitclinear
использование Cost
настраивать предшествующие вероятности класса, заданные в Prior
то, fitclinear
использует настроенные априорные вероятности для обучения и сбрасывает матрицу стоимости к ее значению по умолчанию.
Пример: 'Cost',[0 2; 1 0]
Типы данных: single
| double
| struct
'PredictorNames'
— Имена переменного предиктораПеременный предиктор называет в виде разделенной запятой пары, состоящей из 'PredictorNames'
и массив строк уникальных имен или массив ячеек уникальных векторов символов. Функциональность 'PredictorNames'
зависит от способа, которым вы снабжаете обучающими данными.
Если вы предоставляете X
и Y
, затем можно использовать 'PredictorNames'
присваивать имена к переменным предикторам в X
.
Порядок имен в PredictorNames
должен соответствовать порядку предиктора в X
. Принятие, что X
имеет ориентацию по умолчанию, с наблюдениями в строках и предикторами в столбцах, PredictorNames{1}
имя X(:,1)
, PredictorNames{2}
имя X(:,2)
, и так далее. Кроме того, size(X,2)
и numel(PredictorNames)
должно быть равным.
По умолчанию, PredictorNames
{'x1','x2',...}
.
Если вы предоставляете Tbl
, затем можно использовать 'PredictorNames'
выбрать который переменные предикторы использовать в обучении. Таким образом, fitclinear
использование только переменные предикторы в PredictorNames
и переменная отклика во время обучения.
PredictorNames
должно быть подмножество Tbl.Properties.VariableNames
и не может включать имя переменной отклика.
По умолчанию, PredictorNames
содержит имена всех переменных предикторов.
Хорошая практика должна задать предикторы для обучения с помощью любого 'PredictorNames'
или formula
, но не то и другое одновременно.
Пример: 'PredictorNames',{'SepalLength','SepalWidth','PetalLength','PetalWidth'}
Типы данных: string
| cell
'Prior'
— Априорные вероятности'empirical'
(значение по умолчанию) | 'uniform'
| числовой вектор | массив структурАприорные вероятности для каждого класса в виде разделенной запятой пары, состоящей из 'Prior'
и 'empirical'
, 'uniform'
, числовой вектор или массив структур.
Эта таблица суммирует доступные параметры для установки априорных вероятностей.
Значение | Описание |
---|---|
'empirical' | Априорные вероятности класса являются частотами родственника класса в Y . |
'uniform' | Все априорные вероятности класса равны 1/K , где K количество классов. |
числовой вектор | Каждым элементом является априорная вероятность класса. Закажите элементы согласно их порядку в Y . Если вы задаете порядок с помощью 'ClassNames' аргумент пары "имя-значение", затем закажите элементы соответственно. |
массив структур |
Структура
|
fitclinear
нормирует априорные вероятности в Prior
суммировать к 1.
Пример: 'Prior',struct('ClassNames',{{'setosa','versicolor'}},'ClassProbs',1:2)
Типы данных: char |
string
| double
| single
| struct
'ResponseName'
— Имя переменной отклика'Y'
(значение по умолчанию) | вектор символов | строковый скалярИмя переменной отклика в виде разделенной запятой пары, состоящей из 'ResponseName'
и вектор символов или строковый скаляр.
Если вы предоставляете Y
, затем можно использовать 'ResponseName'
задавать имя для переменной отклика.
Если вы предоставляете ResponseVarName
или formula
, затем вы не можете использовать 'ResponseName'
.
Пример: 'ResponseName','response'
Типы данных: char |
string
'ScoreTransform'
— Выиграйте преобразование'none'
(значение по умолчанию) | 'doublelogit'
| 'invlogit'
| 'ismax'
| 'logit'
| указатель на функцию |...Выиграйте преобразование в виде разделенной запятой пары, состоящей из 'ScoreTransform'
и вектор символов, строковый скаляр или указатель на функцию.
Эта таблица суммирует доступные векторы символов и строковые скаляры.
Значение | Описание |
---|---|
'doublelogit' | 1/(1 + e –2x) |
'invlogit' | журнал (x / (1 – x)) |
'ismax' | Устанавливает счет к классу с самым большим счетом к 1 и устанавливает музыку ко всем другим классам к 0 |
'logit' | 1/(1 + e –x) |
'none' или 'identity' | x (никакое преобразование) |
'sign' | – 1 для x <0 0 для x = 0 1 для x> 0 |
'symmetric' | 2x – 1 |
'symmetricismax' | Устанавливает счет к классу с самым большим счетом к 1 и устанавливает музыку ко всем другим классам к –1 |
'symmetriclogit' | 2/(1 + e –x) – 1 |
Для функции MATLAB или функции вы задаете, используете ее указатель на функцию для счета, преобразовывают. Указатель на функцию должен принять матрицу (исходные баллы) и возвратить матрицу, одного размера (преобразованные баллы).
Пример: 'ScoreTransform','logit'
Типы данных: char |
string
| function_handle
'Weights'
— Веса наблюденияTbl
Веса наблюдения в виде разделенной запятой пары, состоящей из 'Weights'
и положительный числовой вектор или имя переменной в Tbl
. Веса программного обеспечения каждое наблюдение в X
или Tbl
с соответствующим значением в Weights
. Длина Weights
должен равняться количеству наблюдений в X
или Tbl
.
Если вы задаете входные данные как таблицу Tbl
, затем Weights
может быть имя переменной в Tbl
это содержит числовой вектор. В этом случае необходимо задать Weights
как вектор символов или строковый скаляр. Например, если вектор весов W
хранится как Tbl.W
, затем задайте его как 'W'
. В противном случае программное обеспечение обрабатывает все столбцы Tbl
, включая W
, как предикторы или переменная отклика, когда обучение модель.
По умолчанию, Weights
ones(n,1)
, где n
количество наблюдений в X
или Tbl
.
Программное обеспечение нормирует Weights
суммировать к значению априорной вероятности в соответствующем классе.
Типы данных: single
| double
| char
| string
'CrossVal'
— Флаг перекрестной проверки'off'
(значение по умолчанию) | 'on'
Флаг перекрестной проверки в виде разделенной запятой пары, состоящей из 'Crossval'
и 'on'
или 'off'
.
Если вы задаете 'on'
, затем программное обеспечение реализует 10-кратную перекрестную проверку.
Чтобы заменить эту установку перекрестной проверки, используйте один из этих аргументов пары "имя-значение": CVPartition
, Holdout
, или KFold
. Чтобы создать перекрестную подтвержденную модель, можно использовать один аргумент пары "имя-значение" перекрестной проверки за один раз только.
Пример: 'Crossval','on'
'CVPartition'
— Раздел перекрестной проверки[]
(значение по умолчанию) | cvpartition
объект разделаРаздел перекрестной проверки в виде разделенной запятой пары, состоящей из 'CVPartition'
и cvpartition
объект раздела, как создано cvpartition
. Объект раздела задает тип перекрестной проверки, и также индексации для наборов обучения и валидации.
Чтобы создать перекрестную подтвержденную модель, можно использовать одну из этих четырех опций только: '
CVPartition
'
, '
Holdout
'
, или '
KFold
'
.
'Holdout'
— Часть данных для валидации затяжкиЧасть данных, используемых для валидации затяжки в виде разделенной запятой пары, состоящей из 'Holdout'
и скалярное значение в области значений (0,1). Если вы задаете 'Затяжку',
, затем программное обеспечение: p
Случайным образом резервы
% из данных как данные о валидации, и обучает модель с помощью остальной части данныхp
*100
Хранит компактную, обученную модель в Trained
свойство перекрестной подтвержденной модели.
Чтобы создать перекрестную подтвержденную модель, можно использовать одну из этих четырех опций только: '
CVPartition
'
, '
Holdout
'
, или '
KFold
'
.
Пример: 'Holdout',0.1
Типы данных: double |
single
'KFold'
— Количество сгибов
(значение по умолчанию) | положительное целочисленное значение, больше, чем 1Количество сгибов, чтобы использовать в перекрестном подтвержденном классификаторе в виде разделенной запятой пары, состоящей из 'KFold'
и положительное целочисленное значение, больше, чем 1. Если вы задаете, например, 'KFold',k
, затем программное обеспечение:
Случайным образом делит данные в наборы k
Для каждого набора, резервирует набор как данные о валидации и обучает модель с помощью другого k – 1 набор
Хранит k
компактные, обученные модели в ячейках k
- 1 вектор ячейки в Trained
свойство перекрестной подтвержденной модели.
Чтобы создать перекрестную подтвержденную модель, можно использовать одну из этих четырех опций только: '
CVPartition
'
, '
Holdout
'
, или '
KFold
'
.
Пример: 'KFold',8
Типы данных: single
| double
'BatchLimit'
— Максимальное количество пакетовМаксимальное количество пакетов к процессу в виде разделенной запятой пары, состоящей из 'BatchLimit'
и положительное целое число. Когда программные процессы BatchLimit
пакеты, это отключает оптимизацию.
По умолчанию:
Проходы через данные программного обеспечения PassLimit
\times.
Если вы задаете несколько решателей и используете (A) SGD, чтобы получить начальное приближение для следующего решателя, то значением по умолчанию является ceil(1e6/BatchSize)
. BatchSize
значение '
BatchSize
'
аргумент пары "имя-значение".
Если вы задаете 'BatchLimit'
и '
PassLimit
'
, затем программное обеспечение выбирает аргумент, который приводит к обработке наименьшего количества наблюдений.
Если вы задаете 'BatchLimit'
но не 'PassLimit'
, затем программные процессы достаточно пакетов, чтобы завершиться до одного целого прохода через данные.
Пример: 'BatchLimit',100
Типы данных: single
| double
'BetaTolerance'
— Относительная погрешность на линейных коэффициентах и сроке смещения1e-4
(значение по умолчанию) | неотрицательный скалярОтносительная погрешность на линейных коэффициентах и сроке смещения (прерывание) в виде разделенной запятой пары, состоящей из 'BetaTolerance'
и неотрицательный скаляр.
Пусть , то есть, вектор из коэффициентов и смещения называет в итерации оптимизации t. Если , затем оптимизация завершает работу.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
Пример: 'BetaTolerance',1e-6
Типы данных: single
| double
'NumCheckConvergence'
— Количество пакетов к процессу перед следующей проверкой сходимостиКоличество пакетов к процессу перед следующей проверкой сходимости в виде разделенной запятой пары, состоящей из 'NumCheckConvergence'
и положительное целое число.
Чтобы задать пакетный размер, смотрите BatchSize
.
Проверки программного обеспечения на сходимость приблизительно 10 раз на проходят через целый набор данных по умолчанию.
Пример: 'NumCheckConvergence',100
Типы данных: single
| double
'PassLimit'
— Максимальное количество передач
(значение по умолчанию) | положительное целое числоМаксимальное количество проходов через данные в виде разделенной запятой пары, состоящей из 'PassLimit'
и положительное целое число.
fitclinear
обрабатывают все наблюдения, когда это завершает один проход через данные.
Когда fitclinear
проходы через данные PassLimit
времена, это отключает оптимизацию.
Если вы задаете '
BatchLimit
'
и 'PassLimit'
то fitclinear
выбирает аргумент, который приводит к обработке наименьшего количества наблюдений.
Пример: 'PassLimit',5
Типы данных: single
| double
'ValidationData'
— Данные о валидации для обнаружения сходимости оптимизацииДанные о валидации для обнаружения сходимости оптимизации в виде разделенной запятой пары, состоящей из 'ValidationData'
и массив ячеек или таблица.
Во время оптимизации программное обеспечение периодически оценивает потерю ValidationData
. Если потеря данных валидации увеличивается, то программное обеспечение отключает оптимизацию. Для получения дополнительной информации см. Алгоритмы. Чтобы оптимизировать гиперпараметры с помощью перекрестной проверки, см. опции перекрестной проверки, такие как CrossVal
.
Можно задать ValidationData
как таблица, если вы используете таблицу Tbl
из данных о предикторе, которые содержат переменную отклика. В этом случае, ValidationData
должен содержать те же предикторы и ответ, содержавшийся в Tbl
. Программное обеспечение не применяет веса к наблюдениям, даже если Tbl
содержит вектор из весов. Чтобы задать веса, необходимо задать ValidationData
как массив ячеек.
Если вы задаете ValidationData
как массив ячеек, затем это должно иметь следующий формат:
ValidationData{1}
должен иметь совпадающий тип данных и ориентацию как данные о предикторе. Таким образом, если вы используете матрицу предиктора X
, затем ValidationData{1}
должен быть m-by-p или p-by-m полная или разреженная матрица данных о предикторе, которые имеют ту же ориентацию как X
. Переменные предикторы в обучающих данных X
и ValidationData{1}
должен соответствовать. Точно так же, если вы используете таблицу Tbl
предиктора из данных о предикторе, затем
ValidationData{1}
должна быть таблица, содержащая те же переменные предикторы, содержавшиеся в Tbl
. Количество наблюдений в ValidationData{1}
и данные о предикторе могут варьироваться.
ValidationData{2}
должен совпадать с типом данных и форматом переменной отклика, любого Y
или ResponseVarName
. Если ValidationData{2}
массив меток класса, затем он должен иметь то же число элементов как количество наблюдений в ValidationData{1}
. Набор всех отличных меток ValidationData{2}
должно быть подмножество всех отличных меток Y
. Если ValidationData{1}
таблица, затем ValidationData{2}
может быть имя переменной отклика в таблице. Если вы хотите использовать тот же ResponseVarName
или formula
, можно задать ValidationData{2}
как []
.
Опционально, можно задать ValidationData{3}
как m - размерный числовой вектор из весов наблюдения или имя переменной в таблице ValidationData{1}
это содержит веса наблюдения. Программное обеспечение нормирует веса с данными о валидации так, чтобы они суммировали к 1.
Если вы задаете ValidationData
и хочу отобразить потерю валидации в командной строке, задать значение, больше, чем 0 для Verbose
.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
По умолчанию программное обеспечение не обнаруживает сходимость путем контроля потери данных валидации.
'BetaTolerance'
— Относительная погрешность на линейных коэффициентах и сроке смещения1e-4
(значение по умолчанию) | неотрицательный скалярОтносительная погрешность на линейных коэффициентах и сроке смещения (прерывание) в виде разделенной запятой пары, состоящей из 'BetaTolerance'
и неотрицательный скаляр.
Пусть , то есть, вектор из коэффициентов и смещения называет в итерации оптимизации t. Если , затем оптимизация завершает работу.
Если вы также задаете DeltaGradientTolerance
, затем оптимизация завершает работу, когда программное обеспечение удовлетворяет любому критерию остановки.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
Пример: 'BetaTolerance',1e-6
Типы данных: single
| double
'DeltaGradientTolerance'
— Допуск различия градиента
(значение по умолчанию) | неотрицательный скалярДопуск различия градиента между верхними и более низкими нарушителями условий взаимозависимости Karush-Kuhn-Tucker (KKT) пула в виде разделенной запятой пары, состоящей из 'DeltaGradientTolerance'
и неотрицательный скаляр.
Если величина нарушителей KKT меньше DeltaGradientTolerance
, затем программное обеспечение отключает оптимизацию.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
Пример: 'DeltaGapTolerance',1e-2
Типы данных: double |
single
'NumCheckConvergence'
— Количество проходит через целый набор данных к процессу перед следующей проверкой сходимости
(значение по умолчанию) | положительное целое числоКоличество проходит через целый набор данных к процессу перед следующей проверкой сходимости в виде разделенной запятой пары, состоящей из 'NumCheckConvergence'
и положительное целое число.
Пример: 'NumCheckConvergence',100
Типы данных: single
| double
'PassLimit'
— Максимальное количество передач
(значение по умолчанию) | положительное целое числоМаксимальное количество проходов через данные в виде разделенной запятой пары, состоящей из 'PassLimit'
и положительное целое число.
Когда программное обеспечение завершает один проход через данные, оно обработало все наблюдения.
Когда проходы через данные программного обеспечения PassLimit
времена, это отключает оптимизацию.
Пример: 'PassLimit',5
Типы данных: single
| double
'ValidationData'
— Данные о валидации для обнаружения сходимости оптимизацииДанные о валидации для обнаружения сходимости оптимизации в виде разделенной запятой пары, состоящей из 'ValidationData'
и массив ячеек или таблица.
Во время оптимизации программное обеспечение периодически оценивает потерю ValidationData
. Если потеря данных валидации увеличивается, то программное обеспечение отключает оптимизацию. Для получения дополнительной информации см. Алгоритмы. Чтобы оптимизировать гиперпараметры с помощью перекрестной проверки, см. опции перекрестной проверки, такие как CrossVal
.
Можно задать ValidationData
как таблица, если вы используете таблицу Tbl
из данных о предикторе, которые содержат переменную отклика. В этом случае, ValidationData
должен содержать те же предикторы и ответ, содержавшийся в Tbl
. Программное обеспечение не применяет веса к наблюдениям, даже если Tbl
содержит вектор из весов. Чтобы задать веса, необходимо задать ValidationData
как массив ячеек.
Если вы задаете ValidationData
как массив ячеек, затем это должно иметь следующий формат:
ValidationData{1}
должен иметь совпадающий тип данных и ориентацию как данные о предикторе. Таким образом, если вы используете матрицу предиктора X
, затем ValidationData{1}
должен быть m-by-p или p-by-m полная или разреженная матрица данных о предикторе, которые имеют ту же ориентацию как X
. Переменные предикторы в обучающих данных X
и ValidationData{1}
должен соответствовать. Точно так же, если вы используете таблицу Tbl
предиктора из данных о предикторе, затем
ValidationData{1}
должна быть таблица, содержащая те же переменные предикторы, содержавшиеся в Tbl
. Количество наблюдений в ValidationData{1}
и данные о предикторе могут варьироваться.
ValidationData{2}
должен совпадать с типом данных и форматом переменной отклика, любого Y
или ResponseVarName
. Если ValidationData{2}
массив меток класса, затем он должен иметь то же число элементов как количество наблюдений в ValidationData{1}
. Набор всех отличных меток ValidationData{2}
должно быть подмножество всех отличных меток Y
. Если ValidationData{1}
таблица, затем ValidationData{2}
может быть имя переменной отклика в таблице. Если вы хотите использовать тот же ResponseVarName
или formula
, можно задать ValidationData{2}
как []
.
Опционально, можно задать ValidationData{3}
как m - размерный числовой вектор из весов наблюдения или имя переменной в таблице ValidationData{1}
это содержит веса наблюдения. Программное обеспечение нормирует веса с данными о валидации так, чтобы они суммировали к 1.
Если вы задаете ValidationData
и хочу отобразить потерю валидации в командной строке, задать значение, больше, чем 0 для Verbose
.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
По умолчанию программное обеспечение не обнаруживает сходимость путем контроля потери данных валидации.
'BetaTolerance'
— Относительная погрешность на линейных коэффициентах и сроке смещения1e-4
(значение по умолчанию) | неотрицательный скалярОтносительная погрешность на линейных коэффициентах и сроке смещения (прерывание) в виде разделенной запятой пары, состоящей из 'BetaTolerance'
и неотрицательный скаляр.
Пусть , то есть, вектор из коэффициентов и смещения называет в итерации оптимизации t. Если , затем оптимизация завершает работу.
Если вы также задаете GradientTolerance
, затем оптимизация завершает работу, когда программное обеспечение удовлетворяет любому критерию остановки.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
Пример: 'BetaTolerance',1e-6
Типы данных: single
| double
'GradientTolerance'
— Абсолютный допуск градиента1e-6
(значение по умолчанию) | неотрицательный скалярАбсолютный допуск градиента в виде разделенной запятой пары, состоящей из 'GradientTolerance'
и неотрицательный скаляр.
Пусть будьте вектором градиента из целевой функции относительно коэффициентов, и смещение называют в итерации оптимизации t. Если , затем оптимизация завершает работу.
Если вы также задаете BetaTolerance
, затем оптимизация завершает работу, когда программное обеспечение удовлетворяет любому критерию остановки.
Если программное обеспечение сходится для последнего решателя, заданного в программном обеспечении, то оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
Пример: 'GradientTolerance',1e-5
Типы данных: single
| double
'HessianHistorySize'
— Размер буфера истории для приближения Гессиана
(значение по умолчанию) | положительное целое числоРазмер буфера истории для приближения Гессиана в виде разделенной запятой пары, состоящей из 'HessianHistorySize'
и положительное целое число. Таким образом, в каждой итерации программное обеспечение составляет Гессиан с помощью статистики от последнего HessianHistorySize
итерации.
Программное обеспечение не поддерживает 'HessianHistorySize'
для SpaRSA.
Пример: 'HessianHistorySize',10
Типы данных: single
| double
'IterationLimit'
— Максимальное количество итераций оптимизации
(значение по умолчанию) | положительное целое числоМаксимальное количество итераций оптимизации в виде разделенной запятой пары, состоящей из 'IterationLimit'
и положительное целое число. IterationLimit
применяется к этим значениям Solver
: 'bfgs'
, 'lbfgs'
, и 'sparsa'
.
Пример: 'IterationLimit',500
Типы данных: single
| double
'ValidationData'
— Данные о валидации для обнаружения сходимости оптимизацииДанные о валидации для обнаружения сходимости оптимизации в виде разделенной запятой пары, состоящей из 'ValidationData'
и массив ячеек или таблица.
Во время оптимизации программное обеспечение периодически оценивает потерю ValidationData
. Если потеря данных валидации увеличивается, то программное обеспечение отключает оптимизацию. Для получения дополнительной информации см. Алгоритмы. Чтобы оптимизировать гиперпараметры с помощью перекрестной проверки, см. опции перекрестной проверки, такие как CrossVal
.
Можно задать ValidationData
как таблица, если вы используете таблицу Tbl
из данных о предикторе, которые содержат переменную отклика. В этом случае, ValidationData
должен содержать те же предикторы и ответ, содержавшийся в Tbl
. Программное обеспечение не применяет веса к наблюдениям, даже если Tbl
содержит вектор из весов. Чтобы задать веса, необходимо задать ValidationData
как массив ячеек.
Если вы задаете ValidationData
как массив ячеек, затем это должно иметь следующий формат:
ValidationData{1}
должен иметь совпадающий тип данных и ориентацию как данные о предикторе. Таким образом, если вы используете матрицу предиктора X
, затем ValidationData{1}
должен быть m-by-p или p-by-m полная или разреженная матрица данных о предикторе, которые имеют ту же ориентацию как X
. Переменные предикторы в обучающих данных X
и ValidationData{1}
должен соответствовать. Точно так же, если вы используете таблицу Tbl
предиктора из данных о предикторе, затем
ValidationData{1}
должна быть таблица, содержащая те же переменные предикторы, содержавшиеся в Tbl
. Количество наблюдений в ValidationData{1}
и данные о предикторе могут варьироваться.
ValidationData{2}
должен совпадать с типом данных и форматом переменной отклика, любого Y
или ResponseVarName
. Если ValidationData{2}
массив меток класса, затем он должен иметь то же число элементов как количество наблюдений в ValidationData{1}
. Набор всех отличных меток ValidationData{2}
должно быть подмножество всех отличных меток Y
. Если ValidationData{1}
таблица, затем ValidationData{2}
может быть имя переменной отклика в таблице. Если вы хотите использовать тот же ResponseVarName
или formula
, можно задать ValidationData{2}
как []
.
Опционально, можно задать ValidationData{3}
как m - размерный числовой вектор из весов наблюдения или имя переменной в таблице ValidationData{1}
это содержит веса наблюдения. Программное обеспечение нормирует веса с данными о валидации так, чтобы они суммировали к 1.
Если вы задаете ValidationData
и хочу отобразить потерю валидации в командной строке, задать значение, больше, чем 0 для Verbose
.
Если программное обеспечение сходится для последнего решателя, заданного в Solver
, затем оптимизация завершает работу. В противном случае программное обеспечение использует следующий решатель, заданный в Solver
.
По умолчанию программное обеспечение не обнаруживает сходимость путем контроля потери данных валидации.
'OptimizeHyperparameters'
— Параметры, чтобы оптимизировать'none'
(значение по умолчанию) | 'auto'
| 'all'
| массив строк или массив ячеек имеющих право названий параметра | вектор из optimizableVariable
объектыПараметры, чтобы оптимизировать в виде разделенной запятой пары, состоящей из 'OptimizeHyperparameters'
и одно из следующего:
'none'
— Не оптимизировать.
'auto'
— Используйте {'Lambda','Learner'}
.
'all'
— Оптимизируйте все имеющие право параметры.
Массив строк или массив ячеек имеющих право названий параметра.
Вектор из optimizableVariable
объекты, обычно выход hyperparameters
.
Оптимизация пытается минимизировать потерю перекрестной проверки (ошибка) для fitclinear
путем варьирования параметров. Для получения информации о потере перекрестной проверки (хотя в различном контексте), смотрите Потерю Классификации. Чтобы управлять типом перекрестной проверки и другими аспектами оптимизации, используйте HyperparameterOptimizationOptions
пара "имя-значение".
Примечание
'OptimizeHyperparameters'
значения заменяют любые значения, вы устанавливаете использование других аргументов пары "имя-значение". Например, установка 'OptimizeHyperparameters'
к 'auto'
вызывает 'auto'
значения, чтобы применяться.
Имеющие право параметры для fitclinear
:
Lambda
— fitclinear
поисковые запросы среди положительных значений, по умолчанию масштабируемых журналом в области значений [1e-5/NumObservations,1e5/NumObservations]
.
Learner
— fitclinear
поисковые запросы среди 'svm'
и 'logistic'
.
Regularization
— fitclinear
поисковые запросы среди 'ridge'
и 'lasso'
.
Установите параметры не по умолчанию путем передачи вектора из optimizableVariable
объекты, которые имеют значения не по умолчанию. Например,
load fisheriris params = hyperparameters('fitclinear',meas,species); params(1).Range = [1e-4,1e6];
Передайте params
как значение OptimizeHyperparameters
.
По умолчанию итеративное отображение появляется в командной строке, и графики появляются согласно количеству гиперпараметров в оптимизации. Для оптимизации и графиков, целевая функция является журналом (1 + потеря перекрестной проверки) для регрессии и misclassification уровня для классификации. Чтобы управлять итеративным отображением, установите Verbose
поле 'HyperparameterOptimizationOptions'
аргумент пары "имя-значение". Чтобы управлять графиками, установите ShowPlots
поле 'HyperparameterOptimizationOptions'
аргумент пары "имя-значение".
Для примера смотрите, Оптимизируют Линейный Классификатор.
Пример: 'OptimizeHyperparameters','auto'
'HyperparameterOptimizationOptions'
— Опции для оптимизацииОпции для оптимизации в виде разделенной запятой пары, состоящей из 'HyperparameterOptimizationOptions'
и структура. Этот аргумент изменяет эффект OptimizeHyperparameters
аргумент пары "имя-значение". Все поля в структуре являются дополнительными.
Имя поля | Значения | Значение по умолчанию |
---|---|---|
Optimizer |
| 'bayesopt' |
AcquisitionFunctionName |
Приобретение функционирует, чьи имена включают | 'expected-improvement-per-second-plus' |
MaxObjectiveEvaluations | Максимальное количество оценок целевой функции. | 30 для 'bayesopt' или 'randomsearch' , и целая сетка для 'gridsearch' |
MaxTime | Ограничение по времени в виде положительного действительного. Ограничение по времени находится в секундах, как измерено | Inf |
NumGridDivisions | Для 'gridsearch' , количество значений в каждой размерности. Значение может быть вектором из положительных целых чисел, дающих количество значений для каждой размерности или скаляр, который применяется ко всем размерностям. Это поле проигнорировано для категориальных переменных. | 10
|
ShowPlots | Логическое значение, указывающее, показать ли графики. Если true , это поле строит лучшее значение целевой функции против номера итерации. Если существуют один или два параметра оптимизации, и если Optimizer 'bayesopt' , затем ShowPlots также строит модель целевой функции против параметров. | true |
SaveIntermediateResults | Логическое значение, указывающее, сохранить ли результаты когда Optimizer 'bayesopt' . Если true , это поле перезаписывает переменную рабочей области под названием 'BayesoptResults' в каждой итерации. Переменной является BayesianOptimization объект. | false |
Verbose | Отобразитесь к командной строке.
Для получения дополнительной информации смотрите | 1
|
UseParallel | Логическое значение, указывающее, запустить ли Байесовую оптимизацию параллельно, которая требует Parallel Computing Toolbox™. Из-за невоспроизводимости синхронизации параллели, параллельная Байесова оптимизация не обязательно приводит к восстанавливаемым результатам. Для получения дополнительной информации смотрите Параллельную Байесовую Оптимизацию. | false |
Repartition | Логическое значение, указывающее, повторно разделить ли перекрестную проверку в каждой итерации. Если
| false |
Используйте не больше, чем одни из следующих трех имен полей. | ||
CVPartition | cvpartition объект, как создано cvpartition . | 'Kfold',5 если вы не задаете поля перекрестной проверки |
Holdout | Скаляр в области значений (0,1) представление части затяжки. | |
Kfold | Целое число, больше, чем 1. |
Пример: 'HyperparameterOptimizationOptions',struct('MaxObjectiveEvaluations',60)
Типы данных: struct
Mdl
— Обученная линейная модель классификацииClassificationLinear
объект модели | ClassificationPartitionedLinear
перекрестный подтвержденный объект моделиОбученная линейная модель классификации, возвращенная как ClassificationLinear
объект модели или ClassificationPartitionedLinear
перекрестный подтвержденный объект модели.
Если вы устанавливаете какой-либо из аргументов пары "имя-значение" KFold
, Holdout
, CrossVal
, или CVPartition
, затем Mdl
ClassificationPartitionedLinear
перекрестный подтвержденный объект модели. В противном случае, Mdl
ClassificationLinear
объект модели.
К ссылочным свойствам Mdl
, используйте запись через точку. Например, введите Mdl.Beta
в Командном окне, чтобы отобразить вектор или матрицу предполагаемых коэффициентов.
Примечание
В отличие от других моделей классификации, и для экономичного использования памяти, ClassificationLinear
и ClassificationPartitionedLinear
объекты модели не хранят обучающие данные или учебные детали процесса (например, история сходимости).
FitInfo
— Детали оптимизацииДетали оптимизации, возвращенные как массив структур.
Поля задают окончательные значения или технические требования аргумента пары "имя-значение", например, Objective
значение целевой функции, когда оптимизация завершает работу. Строки многомерных полей соответствуют значениям Lambda
и столбцы соответствуют значениям Solver
.
Эта таблица описывает некоторые известные поля.
Поле | Описание | ||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
TerminationStatus |
| ||||||||||||||
FitTime | Прошедшее, тактовое стенкой время в секундах | ||||||||||||||
History | Массив структур информации об оптимизации для каждой итерации. Поле
|
К полям доступа используйте запись через точку. Например, чтобы получить доступ к вектору из значений целевой функции для каждой итерации, введите FitInfo.History.Objective
.
Это - хорошая практика, чтобы исследовать FitInfo
оценить, является ли сходимость удовлетворительной.
HyperparameterOptimizationResults
— Оптимизация перекрестной проверки гиперпараметровBayesianOptimization
возразите | таблица гиперпараметров и присваиваемых значенийОптимизация перекрестной проверки гиперпараметров, возвращенных как BayesianOptimization
возразите или таблица гиперпараметров и присваиваемых значений. Выход непуст когда значение 'OptimizeHyperparameters'
не 'none'
. Выходное значение зависит от Optimizer
значение поля 'HyperparameterOptimizationOptions'
аргумент пары "имя-значение":
Значение Optimizer Поле | Значение HyperparameterOptimizationResults |
---|---|
'bayesopt' (значение по умолчанию) | Объект класса BayesianOptimization |
'gridsearch' или 'randomsearch' | Таблица гиперпараметров используемые, наблюдаемые значения целевой функции (потеря перекрестной проверки), и ранг наблюдений от самого низкого (лучше всего) к (худшему) самому высокому |
warm start является первоначальными оценками бета коэффициентов и срока смещения, предоставленного стандартной программе оптимизации для более быстрой сходимости.
Высоко-размерная линейная классификация и модели регрессии минимизируют целевые функции относительно быстро, но за счет некоторой точности, числовое единственное ограничение переменных предикторов и модель должны быть линейными относительно параметров. Если ваш набор данных предиктора является низким - через средний размерный, или содержит неоднородные переменные, то необходимо использовать соответствующую классификацию или функцию подбора кривой регрессии. Чтобы помочь вам решить, какой подбор кривой функции подходит для вашего низко-размерного набора данных, используйте эту таблицу.
Модель, чтобы соответствовать | Функция | Известные алгоритмические различия |
---|---|---|
SVM |
| |
Линейная регрессия |
| |
Логистическая регрессия |
|
Это - лучшая практика ориентировать вашу матрицу предиктора так, чтобы наблюдения соответствовали столбцам и задавать 'ObservationsIn','columns'
. В результате можно испытать значительное сокращение во время выполнения оптимизации.
Для лучшей точности оптимизации, когда у вас есть высоко-размерные данные о предикторе и Regularization
значением является 'ridge'
, установите любую из этих опций для Solver
:
'sgd'
'asgd'
'dual'
если Learner
'svm'
{'sgd','lbfgs'}
{'asgd','lbfgs'}
{'dual','lbfgs'}
если Learner
'svm'
Другие опции могут привести к плохой точности оптимизации.
Для лучшей точности оптимизации, когда вы имеете умеренный - к низко-размерным данным о предикторе и Regularization
значением является 'ridge'
, установите Solver
к 'bfgs'
.
Если Regularization
'lasso'
, установите любую из этих опций для Solver
:
'sgd'
'asgd'
'sparsa'
{'sgd','sparsa'}
{'asgd','sparsa'}
При выборе между SGD и ASGD, полагайте что:
SGD занимает меньше времени на итерацию, но требует, чтобы сходилось больше итераций.
ASGD требует, чтобы меньше итераций сходилось, но занимает больше времени на итерацию.
Если ваши данные о предикторе имеют немного наблюдений, но много переменных предикторов, то:
Задайте 'PostFitBias',true
.
Для SGD или решателей ASGD, набор PassLimit
до положительного целого числа, которое больше 1, например, 5 или 10. Эта установка часто приводит к лучшей точности.
Для SGD и решателей ASGD, BatchSize
влияет на уровень сходимости.
Если BatchSize
слишком мал, затем fitclinear
достигает минимума во многих итерациях, но вычисляет градиент на итерацию быстро.
Если BatchSize
является слишком большим, затем fitclinear
достигает минимума в меньшем количестве итераций, но вычисляет градиент на итерацию медленно.
Большие скорости обучения (см. LearnRate
) ускорьте сходимость к минимуму, но может привести к расхождению (то есть, переступив через минимум). Небольшие скорости обучения гарантируют сходимость минимуму, но могут вести, чтобы замедлить завершение.
При использовании штрафов лассо экспериментируйте с различными значениями TruncationPeriod
. Например, установите TruncationPeriod
к 1
, 10, и затем
100
.
Для КПД, fitclinear
не стандартизирует данные о предикторе. Стандартизировать X
, войти
X = bsxfun(@rdivide,bsxfun(@minus,X,mean(X,2)),std(X,0,2));
Код требует, чтобы вы ориентировали предикторы и наблюдения как строки и столбцы X
, соответственно. Кроме того, для экономики использования памяти код заменяет исходные данные о предикторе стандартизированные данные.
После обучения модель можно сгенерировать код C/C++, который предсказывает метки для новых данных. Генерация кода C/C++ требует MATLAB Coder™. Для получения дополнительной информации смотрите Введение в Генерацию кода.
Если вы задаете ValidationData
, затем, во время оптимизации целевой функции:
fitclinear
оценивает потерю валидации ValidationData
периодически с помощью текущей модели и дорожек минимальная оценка.
Когда fitclinear
оценивает потерю валидации, она сравнивает оценку с минимальной оценкой.
Когда последующий, оценки потерь валидации превышают минимальную оценку пять раз, fitclinear
отключает оптимизацию.
Если вы задаете ValidationData
и реализовывать стандартную программу перекрестной проверки (CrossVal
, CVPartition
, Holdout
, или KFold
то:
fitclinear
случайным образом разделы X
и Y
(или Tbl
) согласно стандартной программе перекрестной проверки, которую вы выбираете.
fitclinear
обучает модель с помощью раздела обучающих данных. Во время оптимизации целевой функции, fitclinear
использование ValidationData
как другой возможный способ отключить оптимизацию (для получения дополнительной информации смотрите предыдущий маркер).
Однажды fitclinear
удовлетворяет останавливающемуся критерию, он создает обученное основанное на модели на оптимизированных линейных коэффициентах и прерывании.
Если вы реализуете k - сворачивают перекрестную проверку, и fitclinear
не исчерпал все сгибы набора обучающих данных, затем fitclinear
возвращается к Шагу 2, чтобы обучить использование следующего сгиба набора обучающих данных.
В противном случае, fitclinear
отключает обучение, и затем возвращает перекрестную подтвержденную модель.
Можно определить качество перекрестной подтвержденной модели. Например:
Чтобы определить потерю валидации с помощью затяжки или данных из сгиба из шага 1, передайте перекрестную подтвержденную модель kfoldLoss
.
Чтобы предсказать наблюдения относительно затяжки или данных из сгиба из шага 1, передайте перекрестную подтвержденную модель kfoldPredict
.
[1] Се, C. J. К. В. Чанг, К. Дж. Лин, С. С. Кирти и С. Сандарарэджэн. “Двойной Координатный Метод Спуска для Крупномасштабного Линейного SVM”. Продолжения 25-й Международной конференции по вопросам Машинного обучения, ICML ’08, 2001, стр 408–415.
[2] Лэнгфорд, J., Л. Ли и Т. Чжан. “Разреженное Дистанционное обучение Через Усеченный Градиент”. Дж. Мах. Учиться. Res., Издание 10, 2009, стр 777–801.
[3] Nocedal, J. и С. Дж. Райт. Числовая Оптимизация, 2-й редактор, Нью-Йорк: Спрингер, 2006.
[4] Шалев-Шварц, S., И. Зингер и Н. Сребро. “Pegasos: Основной Предполагаемый Решатель Подградиента для SVM”. Продолжения 24-й Международной конференции по вопросам Машинного обучения, ICML ’07, 2007, стр 807–814.
[5] Мастер, S. J. Р. Д. Ноуок и М. А. Т. Фигередо. “Разреженная Реконструкция Отделимым Приближением”. Сигнал сделки Proc., Издание 57, № 7, 2009, стр 2479–2493.
[6] Сяо, Лин. “Двойные Методы усреднения для Упорядоченного Стохастического Изучения и Онлайновой Оптимизации”. Дж. Мах. Учиться. Res., Издание 11, 2010, стр 2543–2596.
[7] Сюй, Вэй. “К Оптимальному Один Крупный масштаб Передачи Изучение с Усредненным Стохастическим Градиентным спуском”. CoRR, abs/1107.2490, 2011.
Указания и ограничения по применению:
fitclinear
не поддерживает высокий table
данные.
Некоторые аргументы пары "имя-значение" имеют различные значения по умолчанию по сравнению со значениями по умолчанию для в оперативной памяти fitclinear
функция. Поддерживаемые аргументы пары "имя-значение" и любые различия:
'ObservationsIn'
— Поддержки только 'rows'
.
'Lambda'
— Может быть 'auto'
(значение по умолчанию) или скаляр.
'Learner'
'Regularization'
— Поддержки только 'ridge'
.
'Solver'
— Поддержки только 'lbfgs'
.
'FitBias'
— Поддержки только true
.
'Verbose'
— Значением по умолчанию является 1
.
'Beta'
'Bias'
'ClassNames'
'Cost'
'Prior'
'Weights'
— Значение должно быть длинным массивом.
'HessianHistorySize'
'BetaTolerance'
— Значение по умолчанию ослабляется к 1e–3
.
'GradientTolerance'
— Значение по умолчанию ослабляется к 1e–3
.
'IterationLimit'
— Значение по умолчанию ослабляется к 20
.
'OptimizeHyperparameters'
— Значение 'Regularization'
параметром должен быть 'ridge'
.
'HyperparameterOptimizationOptions'
— Для перекрестной проверки высокая оптимизация поддерживает только 'Holdout'
валидация. Например, можно задать fitclinear(X,Y,'OptimizeHyperparameters','auto','HyperparameterOptimizationOptions',struct('Holdout',0.2))
.
Для длинных массивов, fitclinear
реализации LBFGS путем распределения вычисления потери и градиента среди различных частей длинного массива в каждой итерации. Другие решатели не доступны для длинных массивов.
Когда начальные значения для Beta
и Bias
не даны, fitclinear
совершенствовал первоначальные оценки параметров, подбирая модель локально к частям данных и комбинируя коэффициенты путем усреднения.
Для получения дополнительной информации см. Раздел "Высокие массивы".
Чтобы выполнить параллельную гипероптимизацию параметров управления, используйте 'HyperparameterOptimizationOptions', struct('UseParallel',true)
аргумент пары "имя-значение" в вызове этой функции.
Для получения дополнительной информации о параллельной гипероптимизации параметров управления смотрите Параллельную Байесовую Оптимизацию.
Для более общей информации о параллельных вычислениях смотрите функции MATLAB Запуска с Автоматической Параллельной Поддержкой (Parallel Computing Toolbox).
ClassificationLinear
| ClassificationPartitionedLinear
| fitcecoc
| fitckernel
| fitcsvm
| fitglm
| fitrlinear
| kfoldLoss
| kfoldPredict
| lassoglm
| predict
| templateLinear
| testcholdout
У вас есть модифицированная версия этого примера. Вы хотите открыть этот пример со своими редактированиями?
1. Если смысл перевода понятен, то лучше оставьте как есть и не придирайтесь к словам, синонимам и тому подобному. О вкусах не спорим.
2. Не дополняйте перевод комментариями “от себя”. В исправлении не должно появляться дополнительных смыслов и комментариев, отсутствующих в оригинале. Такие правки не получится интегрировать в алгоритме автоматического перевода.
3. Сохраняйте структуру оригинального текста - например, не разбивайте одно предложение на два.
4. Не имеет смысла однотипное исправление перевода какого-то термина во всех предложениях. Исправляйте только в одном месте. Когда Вашу правку одобрят, это исправление будет алгоритмически распространено и на другие части документации.
5. По иным вопросам, например если надо исправить заблокированное для перевода слово, обратитесь к редакторам через форму технической поддержки.