Оцените край тестовой выборки (среднее значение запаса классификации) наивного классификатора Байеса. Край тестовой выборки представляет собой среднюю разность тестовой выборки между оцененной апостериорной вероятностью для прогнозируемого класса и апостериорной вероятностью для класса со следующей наименьшей апостериорной вероятностью.

Загрузить fisheriris набор данных. Создать X в виде цифровой матрицы, которая содержит четыре измерения лепестка для 150 ирисов. Создать Y как клеточный массив характерных векторов, который содержит соответствующие виды радужки.

load fisheriris
X = meas;
Y = species;
rng('default')  % for reproducibility

Случайное разделение наблюдений на обучающий набор и тестовый набор со стратификацией с использованием информации о классе в Y. Укажите 30% образец хранения для тестирования.

cv = cvpartition(Y,'HoldOut',0.30);

Извлеките показатели обучения и тестирования.

trainInds = training(cv);
testInds = test(cv);

Укажите наборы данных обучения и тестирования.

XTrain = X(trainInds,:);
YTrain = Y(trainInds);
XTest = X(testInds,:);
YTest = Y(testInds);

Обучить наивный классификатор Байеса с помощью предикторов XTrain и метки классов YTrain. Рекомендуется указывать имена классов. fitcnb предполагает, что каждый предиктор условно и нормально распределен.

Mdl = fitcnb(XTrain,YTrain,'ClassNames',{'setosa','versicolor','virginica'})

Mdl = 
  ClassificationNaiveBayes
              ResponseName: 'Y'
     CategoricalPredictors: []
                ClassNames: {'setosa'  'versicolor'  'virginica'}
            ScoreTransform: 'none'
           NumObservations: 105
         DistributionNames: {'normal'  'normal'  'normal'  'normal'}
    DistributionParameters: {3x4 cell}


  Properties, Methods

Mdl является обученным ClassificationNaiveBayes классификатор.

Оцените край тестового образца.

e = edge(Mdl,XTest,YTest)

e = 0.8658

Среднее значение маржи составляет приблизительно 0.87. Этот результат говорит о том, что классификатор маркирует предикторы с высокой достоверностью.

Оценка взвешенного края тестовой выборки (средневзвешенного запаса) наивного классификатора Байеса. Край тестовой выборки представляет собой среднюю разность тестовой выборки между оцененной апостериорной вероятностью для прогнозируемого класса и апостериорной вероятностью для класса со следующей наименьшей апостериорной вероятностью. Взвешенный край выборки оценивает среднее значение запаса, когда программа присваивает вес каждому наблюдению.

Загрузить fisheriris набор данных. Создать X в виде цифровой матрицы, которая содержит четыре измерения лепестка для 150 ирисов. Создать Y как клеточный массив характерных векторов, который содержит соответствующие виды радужки.

load fisheriris
X = meas;
Y = species;
rng('default')  % for reproducibility

Предположим, что некоторые измерения более низкого качества, потому что они были измерены с помощью старой технологии. Чтобы смоделировать этот эффект, добавьте шум к случайному подмножеству из 20 измерений.

idx = randperm(size(X,1),20);
X(idx,:) = X(idx,:) + 2*randn(20,size(X,2));

Случайное разделение наблюдений на обучающий набор и тестовый набор со стратификацией с использованием информации о классе в Y. Укажите 30% образец хранения для тестирования.

cv = cvpartition(Y,'HoldOut',0.30);

Извлеките показатели обучения и тестирования.

trainInds = training(cv);
testInds = test(cv);

Укажите наборы данных обучения и тестирования.

XTrain = X(trainInds,:);
YTrain = Y(trainInds);
XTest = X(testInds,:);
YTest = Y(testInds);

Обучить наивный классификатор Байеса с помощью предикторов XTrain и метки классов YTrain. Рекомендуется указывать имена классов. fitcnb предполагает, что каждый предиктор условно и нормально распределен.

Mdl = fitcnb(XTrain,YTrain,'ClassNames',{'setosa','versicolor','virginica'});

Mdl является обученным ClassificationNaiveBayes классификатор.

Оцените край тестового образца.

e = edge(Mdl,XTest,YTest)

e = 0.5920

Средний запас составляет примерно 0,59.

Одним из способов уменьшения влияния шумных измерений является назначение им меньшего веса, чем другим наблюдениям. Определите весовой вектор, который обеспечивает лучшее качество наблюдений в два раза больше веса других наблюдений.

n = size(X,1);
weights = ones(size(X,1),1);
weights(idx) = 0.5;
weightsTrain = weights(trainInds);
weightsTest = weights(testInds);

Обучить наивный классификатор Байеса с помощью предикторов XTrain, метки классов YTrain, и веса weightsTrain.

Mdl_W = fitcnb(XTrain,YTrain,'Weights',weightsTrain,...
    'ClassNames',{'setosa','versicolor','virginica'});

Mdl_W является обученным ClassificationNaiveBayes классификатор.

Оценка взвешенного края тестовой выборки с использованием схемы взвешивания.

e_W = edge(Mdl_W,XTest,YTest,'Weights',weightsTest)

e_W = 0.6816

Средневзвешенная маржа составляет примерно 0,69. Этот результат указывает, что в среднем взвешенные классификаторы маркируют предикторы с более высокой достоверностью, чем шумовые искаженные предикторы.

Край классификатора измеряет среднее значение полей классификатора. Одним из способов выбора элемента является сравнение кромок тестовых образцов из нескольких моделей. Исходя исключительно из этого критерия, классификатор с наивысшим ребром является лучшим классификатором.

Загрузить ionosphere набор данных. Удалите первые два предиктора стабильности.

load ionosphere
X = X(:,3:end);
rng('default')  % for reproducibility

Случайное разделение наблюдений на обучающий набор и тестовый набор со стратификацией с использованием информации о классе в Y. Укажите 30% образец хранения для тестирования.

cv = cvpartition(Y,'Holdout',0.30);

Извлеките показатели обучения и тестирования.

trainInds = training(cv);
testInds = test(cv);

Укажите наборы данных обучения и тестирования.

XTrain = X(trainInds,:);
YTrain = Y(trainInds);
XTest = X(testInds,:);
YTest = Y(testInds);

Определите два набора учебных данных:

fullXTrain = XTrain;
idx = fscmrmr(XTrain,YTrain);
partXTrain = XTrain(:,idx(1:10));

Тренируйте наивный классификатор Байеса для каждого набора предикторов.

fullMdl = fitcnb(fullXTrain,YTrain);
partMdl = fitcnb(partXTrain,YTrain);

fullMdl и partMdl обучены ClassificationNaiveBayes классификаторы.

Оцените край тестового образца для каждого классификатора.

fullEdge = edge(fullMdl,XTest,YTest)

fullEdge = 0.5831

partEdge = edge(partMdl,XTest(:,idx(1:10)),YTest)

partEdge = 0.7593

Край тестовой выборки классификатора с использованием 10 наиболее важных предикторов больше.