Выберите подмножество обученных моделей ECOC, состоявших из линейных бинарных учеников с различными сильными местами регуляризации.

Загрузите набор данных NLP.

load nlpdata

X разреженная матрица данных о предикторе и Y категориальный вектор из меток класса.

Создайте набор 11 логарифмически расположенных с интервалами сильных мест регуляризации от $$10^{-8}$$ через $$10^{-1}$$.

Lambda = logspace(-8,-1,11);

Создайте линейный шаблон модели классификации, который задает оптимизацию использования целевой функции SpaRSA. Используйте штрафы лассо с сильными местами, заданными в Lambda.

t = templateLinear('Solver','sparsa','Regularization','lasso',...
    'Lambda',Lambda);

Протяните 30% данных для тестирования. Идентифицируйте демонстрационные тестом индексы.

rng(1); % For reproducibility
cvp = cvpartition(Y,'Holdout',0.30);
idxTest = test(cvp);

Обучите модель ECOC, состоявшую из линейных моделей классификации. В течение более быстрого времени выполнения ориентируйте данные о предикторе так, чтобы отдельные наблюдения соответствовали столбцам.

X = X';
PMdl = fitcecoc(X,Y,'Learners',t,'ObservationsIn','columns','CVPartition',cvp);
Mdl = PMdl.Trained{1};
numel(Mdl.BinaryLearners{1}.Lambda)

ans = 11

Mdl CompactClassificationECOC объект модели. Поскольку Lambda 11-мерный вектор из сильных мест регуляризации, можно думать о Mdl как одиннадцать обученных моделей, каждый соответствующий силе регуляризации.

Оцените тестовую выборку misclassification уровни для каждой упорядоченной модели.

ce = loss(Mdl,X(:,idxTest),Y(idxTest),'ObservationsIn','columns');

Постройте misclassification уровни относительно силы регуляризации на логарифмической шкале.

figure
plot(log10(Lambda),log10(ce),'-o')
ylabel('log_{10} misclassification rates')
xlabel('log_{10} Lambda')
[~,minCEIdx] = min(ce);
minLambda = Lambda(minCEIdx);
hold on
plot(log10(minLambda),log10(ce(minCEIdx)),'ro');
hold off

Несколько значений Lambda дайте к столь же маленьким ошибочным значениям классификации. Рассмотрите выбирающие большие значения Lambda (которые все еще дают к хорошим уровням классификации), потому что они приводят к разреженности переменного предиктора.

Выберите эти четыре модели с сильными местами регуляризации, которые происходят вокруг точки, в которой ошибка классификации начинает увеличиваться.

idx = 7:10;
MdlFinal = selectModels(Mdl,idx)

MdlFinal = 
  CompactClassificationECOC
      ResponseName: 'Y'
        ClassNames: [1x13 categorical]
    ScoreTransform: 'none'
    BinaryLearners: {78x1 cell}
      CodingMatrix: [13x78 double]


  Properties, Methods

LambdaFinal = MdlFinal.BinaryLearners{1}.Lambda

LambdaFinal = 1×4

    0.0002    0.0008    0.0040    0.0200

MdlFinal CompactClassificationECOC объект модели. Можно думать о нем, когда четыре модели обучили использование четырех сильных мест регуляризации в LambdaFinal.