Пакет: classreg.learning.partition
Суперклассы: ClassificationPartitionedModel
Перекрестная проверенная модель выходных кодов с линейной коррекцией ошибок для многоклассовой классификации высокомерных данных
ClassificationPartitionedLinearECOC является набором моделей выходных кодов с исправлением ошибок (ECOC), состоящих из линейных классификационных моделей, обученных на перекрестных проверенных складках. Оцените качество классификации путем перекрестной валидации с помощью одной или нескольких функций «kfold»: kfoldPredict, kfoldLoss, kfoldMargin, и kfoldEdge.
Каждый метод «kfold» использует модели, обученные внутрикратным наблюдениям, чтобы предсказать ответ для несовпадающих наблюдений. Например, предположим, что вы перекрестно проверяете с помощью пяти складок. В этом случае программное обеспечение случайным образом присваивает каждое наблюдение пяти примерно одинаковым группам. training fold содержит четыре группы (то есть примерно 4/5 данных), а test fold - другую группу (то есть примерно 1/5 данных). В этом случае перекрестная проверка выполняется следующим образом.
Программное обеспечение обучает первую модель (хранится в CVMdl.Trained{1}) использование наблюдений в последних четырех группах и резервирует наблюдения в первой группе для валидации.
Программное обеспечение обучает вторую модель (хранится в CVMdl.Trained{2}) использование наблюдений в первой группе и последних трех группах. Программа резервирует наблюдения во второй группе для валидации.
Программа работает подобным образом для третьей, четвертой и пятой моделей.
Если вы проверяете, вызывая kfoldPredict, он вычисляет предсказания для наблюдений в группе 1, используя первую модель, группу 2 для второй модели и так далее. Короче говоря, программное обеспечение оценивает ответ для каждого наблюдения, используя модель, обученную без этого наблюдения.
Примечание
ClassificationPartitionedLinearECOC объекты модели не хранят набор данных предиктора.
CVMdl = fitcecoc(X,Y,'Learners',t,Name,Value) возвращает перекрестно проверенную, линейную модель ECOC, когда:
t является 'Linear' или объект шаблона, возвращенный templateLinear.
Name является одним из 'CrossVal', 'CVPartition', 'Holdout', или 'KFold'.
Для получения дополнительной информации см. fitcecoc.
| kfoldEdge | Классификационное ребро для наблюдений, не используемых для обучения |
| kfoldLoss | Классификационные потери для наблюдений, не используемых в обучении |
| kfoldMargin | Классификационные поля для наблюдений, не используемых в обучении |
| kfoldPredict | Предсказать метки для наблюдений, не используемых для обучения |
Значение. Чтобы узнать, как классы значений влияют на операции копирования, см. раздел «Копирование объектов».
Загрузите набор данных NLP.
load nlpdataX является разреженной матрицей данных предиктора, и Y является категориальным вектором меток классов.
Перекрестная проверка многоклассовой линейной модели классификации, которая может идентифицировать, какой тулбокс MATLAB ® является веб-страницей документации, на основе счетчиков слов на странице.
rng(1); % For reproducibility CVMdl = fitcecoc(X,Y,'Learners','linear','CrossVal','on')
CVMdl =
ClassificationPartitionedLinearECOC
CrossValidatedModel: 'LinearECOC'
ResponseName: 'Y'
NumObservations: 31572
KFold: 10
Partition: [1x1 cvpartition]
ClassNames: [1x13 categorical]
ScoreTransform: 'none'
Properties, Methods
CVMdl является ClassificationPartitionedLinearECOC перекрестно-проверенная модель. Потому что fitcecoc реализует 10-кратную перекрестную валидацию по умолчанию, CVMdl.Trained содержит вектор камеры 10 на 1 из десяти CompactClassificationECOC модели, которые содержат результаты обучения моделей ECOC, состоящих из двоичных, линейных классификационных моделей для каждой из складок.
Оцените метки для несовпадающих наблюдений и оцените ошибку обобщения передачей CVMdl на kfoldPredict и kfoldLoss, соответственно.
oofLabels = kfoldPredict(CVMdl); ge = kfoldLoss(CVMdl)
ge = 0.0958
Предполагаемая ошибка обобщения составляет около 10% неправильно классифицированных наблюдений.
Чтобы улучшить ошибку обобщения, попробуйте задать другой решатель, такой как LBFGS. Чтобы изменить опции по умолчанию при обучении моделей ECOC, состоящих из линейных классификационных моделей, создайте шаблон модели линейной классификации с помощью templateLinear, а затем передайте шаблон в fitcecoc.
Чтобы определить хорошую силу лассо-штрафов для модели ECOC, состоящей из линейных классификационных моделей, которые используют учителей логистической регрессии, реализуйте 5-кратную перекрестную валидацию.
Загрузите набор данных NLP.
load nlpdataX является разреженной матрицей данных предиктора, и Y является категориальным вектором меток классов.
Для простоты используйте метку 'others' для всех наблюдений в Y которые не 'simulink', 'dsp', или 'comm'.
Y(~(ismember(Y,{'simulink','dsp','comm'}))) = 'others';Создайте набор из 11 логарифмически разнесенных сильных сторон регуляризации через .
Lambda = logspace(-7,-2,11);
Создайте шаблон модели линейной классификации, который задает, чтобы использовать учителей логистической регрессии, использовать штрафы лассо с сильными сторонами в Lambda, обучить с помощью SpaRSA и снизить допуск по градиенту целевой функции до 1e-8.
t = templateLinear('Learner','logistic','Solver','sparsa',... 'Regularization','lasso','Lambda',Lambda,'GradientTolerance',1e-8);
Перекрестная проверка моделей. Чтобы увеличить скорость выполнения, транспонируйте данные предиктора и укажите, что наблюдения указаны в столбцах.
X = X'; rng(10); % For reproducibility CVMdl = fitcecoc(X,Y,'Learners',t,'ObservationsIn','columns','KFold',5);
CVMdl является ClassificationPartitionedLinearECOC модель.
Рассечение CVMdl, и каждая модель в ней.
numECOCModels = numel(CVMdl.Trained)
numECOCModels = 5
ECOCMdl1 = CVMdl.Trained{1}ECOCMdl1 =
CompactClassificationECOC
ResponseName: 'Y'
ClassNames: [comm dsp simulink others]
ScoreTransform: 'none'
BinaryLearners: {6×1 cell}
CodingMatrix: [4×6 double]
Properties, Methods
numCLModels = numel(ECOCMdl1.BinaryLearners)
numCLModels = 6
CLMdl1 = ECOCMdl1.BinaryLearners{1}CLMdl1 =
ClassificationLinear
ResponseName: 'Y'
ClassNames: [-1 1]
ScoreTransform: 'logit'
Beta: [34023×11 double]
Bias: [-0.3169 -0.3169 -0.3168 -0.3168 -0.3168 -0.3167 -0.1725 -0.0805 -0.1762 -0.3450 -0.5174]
Lambda: [1.0000e-07 3.1623e-07 1.0000e-06 3.1623e-06 1.0000e-05 3.1623e-05 1.0000e-04 3.1623e-04 1.0000e-03 0.0032 0.0100]
Learner: 'logistic'
Properties, Methods
Потому что fitcecoc реализует 5-кратную перекрестную валидацию, CVMdl содержит массив ячеек 5 на 1 CompactClassificationECOC модели, которые программное обеспечение обучает на каждой складке. The BinaryLearners свойство каждого CompactClassificationECOC модель содержит ClassificationLinear модели. Количество ClassificationLinear модели в каждой компактной модели ECOC зависят от количества отдельных меток и проекта кодирования. Потому что Lambda последовательность регуляризационных сильных сторон, вы можете думать о CLMdl1 как 11 моделей, по одной на каждую силу регуляризации в Lambda.
Определите, насколько хорошо модели обобщаются, путем построения средних значений 5-кратной ошибки классификации для каждой силы регуляризации. Идентифицируйте силу регуляризации, которая минимизирует ошибку обобщения по сетке.
ce = kfoldLoss(CVMdl); figure; plot(log10(Lambda),log10(ce)) [~,minCEIdx] = min(ce); minLambda = Lambda(minCEIdx); hold on plot(log10(minLambda),log10(ce(minCEIdx)),'ro'); ylabel('log_{10} 5-fold classification error') xlabel('log_{10} Lambda') legend('MSE','Min classification error') hold off
Обучите модель ECOC, состоящую из линейной классификационной модели, используя весь набор данных и задайте минимальную прочность регуляризации.
t = templateLinear('Learner','logistic','Solver','sparsa',... 'Regularization','lasso','Lambda',minLambda,'GradientTolerance',1e-8); MdlFinal = fitcecoc(X,Y,'Learners',t,'ObservationsIn','columns');
Чтобы оценить метки для новых наблюдений, передайте MdlFinal и новые данные для predict.
ClassificationECOC | ClassificationLinear | fitcecoc | fitclinear | kfoldLoss | kfoldPredict