Документация

label = kfoldPredict(CVMdl) возвращает метки классов, предсказанные перекрестно проверенной моделью ECOC (ClassificationPartitionedECOC) CVMdl. Для каждой складки, kfoldPredict предсказывает метки классов для наблюдений, которые они выполняются во время обучения. CVMdl.X содержит оба набора наблюдений.

Программа предсказывает классификацию наблюдения путем присвоения наблюдения классу, получая наибольшие отрицательные средние двоичные потери (или, что эквивалентно, наименьшие средние двоичные потери).

label = kfoldPredict(CVMdl,Name,Value) возвращает предсказанные метки классов с дополнительными опциями, заданными одним или несколькими аргументами пары "имя-значение". Для примера задайте апостериорный метод оценки вероятностей, схему декодирования или уровень подробностей.

[label,NegLoss,PBScore] = kfoldPredict(___) дополнительно возвращает отрицательные значения средних двоичных потерь на класс (NegLoss) для наблюдений с разбиением на валидации и счетов положительного класса (PBScore) для наблюдений с складкой валидации, классифицированных каждым двоичным учеником, с использованием любой из комбинаций входных аргументов в предыдущих синтаксисах.

Если матрица кодирования изменяется между складками (то есть схема кодирования sparserandom или denserandom), затем PBScore пуст ([]).

[label,NegLoss,PBScore,Posterior] = kfoldPredict(___) дополнительно возвращает апостериорные оценки вероятностей классов для валидационно-складных наблюдений (Posterior).

Чтобы получить апостериорные вероятности классов, вы должны задать 'FitPosterior',1 при обучении перекрестно проверенной модели ECOC с помощью fitcecoc. В противном случае, kfoldPredict выдает ошибку.

Примеры

Предсказание меток перекрестной валидации k-Fold

Загрузите набор данных радужки Фишера. Задайте данные предиктора X, данные отклика Y, и порядок классов в Y.

load fisheriris
X = meas;
Y = categorical(species);
classOrder = unique(Y);
rng(1); % For reproducibility

Обучите и перекрестная проверка модели ECOC с помощью машины опорных векторов (SVM) двоичных классификаторов. Стандартизируйте данные предиктора с помощью шаблона SVM и укажите порядок классов.

t = templateSVM('Standardize',1);
CVMdl = fitcecoc(X,Y,'CrossVal','on','Learners',t,'ClassNames',classOrder);

CVMdl является ClassificationPartitionedECOC модель. По умолчанию программное обеспечение реализует 10-кратную перекрестную валидацию. Вы можете задать другое количество складок, используя 'KFold' аргумент пары "имя-значение".

Спрогнозируйте метки складки валидации. Печать случайного подмножества истинных и предсказанных меток.

labels = kfoldPredict(CVMdl);
idx = randsample(numel(labels),10);
table(Y(idx),labels(idx),...
    'VariableNames',{'TrueLabels','PredictedLabels'})

ans=10×2 table
    TrueLabels    PredictedLabels
    __________    _______________

    setosa          setosa       
    versicolor      versicolor   
    setosa          setosa       
    virginica       virginica    
    versicolor      versicolor   
    setosa          setosa       
    virginica       virginica    
    virginica       virginica    
    setosa          setosa       
    setosa          setosa

CVMdl правильно помечает наблюдения свертки валидации индексами idx.

Предсказание меток перекрестной валидации с помощью пользовательской функции двоичных потерь

Загрузите набор данных радужки Фишера. Задайте данные предиктора X, данные отклика Y, и порядок классов в Y.

load fisheriris
X = meas;
Y = categorical(species);
classOrder = unique(Y); % Class order
K = numel(classOrder);  % Number of classes
rng(1); % For reproducibility

Обучите и перекрестная проверка модели ECOC с помощью двоичных классификаторов SVM. Стандартизируйте данные предиктора с помощью шаблона SVM и укажите порядок классов.

t = templateSVM('Standardize',1);
CVMdl = fitcecoc(X,Y,'CrossVal','on','Learners',t,'ClassNames',classOrder);

Счета SVM являются подписанными расстояниями от наблюдения до контура принятия решения. Поэтому область является $(- \infty, \infty)$ . Создайте пользовательскую функцию двоичных потерь, которая:

Сопоставляет матрицу проекта кодирования (M) и классификационные оценки (оценки ) (ы) положительного класса для каждого учащегося с двоичными потерями для каждого наблюдения
Использует линейные потери
Агрегирует двоичные потери учащегося с помощью медианы

Можно создать отдельную функцию для функции двоичных потерь, а затем сохранить ее в пути MATLAB ®. Кроме того, можно задать анонимную функцию двоичных потерь. В этом случае создайте указатель на функцию (customBL) к анонимной функции двоичных потерь.

customBL = @(M,s)nanmedian(1 - bsxfun(@times,M,s),2)/2;

Спрогнозируйте метки перекрестной валидации и оцените медианные двоичные потери по классам. Печать медианы отрицательных двоичных потерь по классам для случайного набора из 10 наблюдений за сгибом валидации.

[label,NegLoss] = kfoldPredict(CVMdl,'BinaryLoss',customBL);

idx = randsample(numel(label),10);
classOrder

classOrder = 3x1 categorical
     setosa 
     versicolor 
     virginica

table(Y(idx),label(idx),NegLoss(idx,:),'VariableNames',...
    {'TrueLabel','PredictedLabel','NegLoss'})

ans=10×3 table
    TrueLabel     PredictedLabel                 NegLoss             
    __________    ______________    _________________________________

    setosa          versicolor      0.37148       2.1294      -4.0009
    versicolor      versicolor      -1.2167      0.36689     -0.65018
    setosa          versicolor      0.23923        2.079      -3.8182
    virginica       virginica       -1.9151     -0.19954      0.61467
    versicolor      versicolor      -1.3746      0.45537     -0.58077
    setosa          versicolor      0.20061       2.2774       -3.978
    virginica       versicolor      -1.4921     0.090197    -0.098125
    virginica       virginica       -1.7668     -0.13465      0.40146
    setosa          versicolor      0.20005       1.9113      -3.6113
    setosa          versicolor      0.16105       1.9684      -3.6295

Порядок столбцов соответствует элементам classOrder. Программа прогнозирует метку на основе максимальных отрицательных потерь. Результаты показывают, что медиана линейных потерь может не работать так же хорошо, как другие потери.

Оценка апостериорных вероятностей перекрестной валидации

Загрузите набор данных радужки Фишера. Используйте размерности лепестка в качестве данных предиктора X. Задайте данные отклика Y и порядок классов в Y.

load fisheriris
X = meas(:,3:4);
Y = categorical(species);
classOrder = unique(Y);
rng(1); % For reproducibility

Создайте шаблон SVM. Стандартизируйте предикторы и задайте Гауссово ядро.

t = templateSVM('Standardize',1,'KernelFunction','gaussian');

t является шаблоном SVM. Большинство его свойств пусты. При обучении классификатора ECOC программное обеспечение устанавливает применимые свойства на их значения по умолчанию.

Обучите и перекрестная проверка классификатора ECOC с помощью шаблона SVM. Преобразуйте классификационные оценки в апостериорные вероятности класса (возвращаются kfoldPredict) использование 'FitPosterior' аргумент пары "имя-значение". Задайте порядок классов.

CVMdl = fitcecoc(X,Y,'Learners',t,'CrossVal','on','FitPosterior',true,...
    'ClassNames',classOrder);

CVMdl является ClassificationPartitionedECOC модель. По умолчанию программа использует 10-кратную перекрестную валидацию.

Спрогнозируйте апостериорные вероятности класса валидации-сворачивания. Используйте 10 случайных начальных значений для алгоритма Kullback-Leibler.

[label,~,~,Posterior] = kfoldPredict(CVMdl,'NumKLInitializations',10);

Программа присваивает наблюдение классу, которое приводит к наименьшим средним двоичным потерям. Поскольку все двоичные ученики вычисляют апостериорные вероятности, функция двоичных потерь quadratic.

Отображение случайного набора результатов.

idx = randsample(size(X,1),10);
CVMdl.ClassNames

ans = 3x1 categorical
     setosa 
     versicolor 
     virginica

table(Y(idx),label(idx),Posterior(idx,:),...
    'VariableNames',{'TrueLabel','PredLabel','Posterior'})

ans=10×3 table
    TrueLabel     PredLabel                   Posterior               
    __________    __________    ______________________________________

    versicolor    versicolor       0.00864       0.98243     0.0089298
    versicolor    virginica     2.2197e-14       0.12447       0.87553
    setosa        setosa             0.999    0.00022836    0.00076885
    versicolor    versicolor    2.2194e-14       0.98915      0.010848
    virginica     virginica       0.012318      0.012925       0.97476
    virginica     virginica      0.0015573     0.0015639       0.99688
    virginica     virginica      0.0042896     0.0043557       0.99135
    setosa        setosa             0.999    0.00028329    0.00071382
    virginica     virginica      0.0094654     0.0098159       0.98072
    setosa        setosa             0.999    0.00013559    0.00086195

Столбцы Posterior соответствуют классу порядка CVMdl.ClassNames.

Оценка апостериорных вероятностей перекрестной валидации с помощью параллельных вычислений

Этот пример использует:

Обучите многоклассовую модель ECOC и оцените апостериорные вероятности с помощью параллельных вычислений.

Загрузите arrhythmia набор данных. Исследуйте данные отклика Y.

load arrhythmia
Y = categorical(Y);
tabulate(Y)

  Value    Count   Percent
      1      245     54.20%
      2       44      9.73%
      3       15      3.32%
      4       15      3.32%
      5       13      2.88%
      6       25      5.53%
      7        3      0.66%
      8        2      0.44%
      9        9      1.99%
     10       50     11.06%
     14        4      0.88%
     15        5      1.11%
     16       22      4.87%

n = numel(Y);
K = numel(unique(Y));

Несколько классов не представлены в данных, и многие другие классы имеют низкие относительные частоты.

Укажите шаблон обучения ансамбля, который использует метод GentleBoost и 50 слабых учащихся дерева классификации.

t = templateEnsemble('GentleBoost',50,'Tree');

t является объектом шаблона. Большинство опций пусты ([]). Во время обучения программа использует значения по умолчанию для всех пустых опций.

Поскольку переменная отклика содержит много классов, задайте разреженный проект случайного кодирования.

rng(1); % For reproducibility
Coding = designecoc(K,'sparserandom');

Обучите и проверьте модель ECOC с помощью параллельных вычислений. Подгонка апостериорных вероятностей (возвращается kfoldPredict).

pool = parpool;                      % Invokes workers

Starting parallel pool (parpool) using the 'local' profile ...
connected to 6 workers.

options = statset('UseParallel',1);
CVMdl = fitcecoc(X,Y,'Learner',t,'Options',options,'Coding',Coding,...
    'FitPosterior',1,'CrossVal','on');

Warning: One or more folds do not contain points from all the groups.

Пул вызывает шесть работников, хотя количество работников может варьироваться среди систем. Поскольку некоторые классы имеют низкую относительную частоту, одна или несколько складок, скорее всего, не содержат наблюдений от всех классов.

Оцените апостериорные вероятности и отобразите апостериорную вероятность того, что они будут классифицированы как не имеющие аритмии (класс 1), учитывая данные для случайного набора наблюдений с разбиением на валидации.

[~,~,~,posterior] = kfoldPredict(CVMdl,'Options',options);
idx = randsample(n,10);
table(idx,Y(idx),posterior(idx,1),...
    'VariableNames',{'OOFSampleIndex','TrueLabel','PosteriorNoArrhythmia'})

ans=10×3 table
    OOFSampleIndex    TrueLabel    PosteriorNoArrhythmia
    ______________    _________    _____________________

         171             1                0.33654       
         221             1                0.85135       
          72             16                0.9174       
           3             10              0.025649       
         202             1                 0.8438       
         243             1                 0.9435       
          18             1                0.81198       
          49             6               0.090154       
         234             1                0.61625       
         315             1                0.97187

Входные параметры

`CVMdl` - Перекрестная проверенная модель ECOC
`ClassificationPartitionedECOC` модель

Перекрестная проверенная модель ECOC, заданная как ClassificationPartitionedECOC модель. Можно создать ClassificationPartitionedECOC моделировать двумя способами:

Передайте обученную модель ECOC (ClassificationECOCКому crossval.
Обучите модель ECOC с помощью fitcecoc и задайте любой из следующих аргументов пары "имя-значение" перекрестной проверки: 'CrossVal', 'CVPartition', 'Holdout', 'KFold', или 'Leaveout'.

Аргументы в виде пар имя-значение

Задайте необязательные разделенные разделенными запятой парами Name,Value аргументы. Name - имя аргумента и Value - соответствующее значение. Name должны находиться внутри кавычек. Можно задать несколько аргументов в виде пар имен и значений в любом порядке Name1,Value1,...,NameN,ValueN.

Пример: kfoldPredict(CVMdl,'PosteriorMethod','qp') задает оценку многоклассовых апостериорных вероятностей путем решения задачи наименьших квадратов с помощью квадратичного программирования.

`'BinaryLoss'` - Бинарная функция потерь для учащихся
`'hamming'` | `'linear'` | `'logit'` | `'exponential'` | `'binodeviance'` | `'hinge'` | `'quadratic'` | указатель на функцию

Двоичная функция потерь учащегося, заданная как разделенная разделенными запятой парами, состоящая из 'BinaryLoss' и встроенное имя функции потери или указатель на функцию.

Эта таблица описывает встроенные функции, где _yj является меткой класса для конкретного двоичного ученика (в наборе {-1,1,0}), _sj является счетом для j наблюдений, а g (_yj, sj) является формулой двоичных потерь.

Значение	Описание	Счет	g (_yj, _sj)
`'binodeviance'`	Биномиальное отклонение	(–∞,∞)	log [1 + exp (-₂ _yjsj) ]/[ 2log (2)]
`'exponential'`	Экспоненциал	(–∞,∞)	exp (- _yjsj )/2
`'hamming'`	Хэмминг	[0,1] или (- ∞, ∞)	[1 - знак (_yjsj) ]/2
`'hinge'`	Стержень	(–∞,∞)	макс (0,1 - _yjsj )/2
`'linear'`	Линейный	(–∞,∞)	(1 – _yjsj)/2
`'logit'`	Логистический	(–∞,∞)	журнал [1 + exp _(- _yjsj) ]/[ 2log (2)]
`'quadratic'`	Квадратный	[0,1]	[1 – _yj (2 _sj – 1)]²/2

Программа нормализует двоичные потери так, чтобы потеря была 0,5 при _yj = 0. Кроме того, программное обеспечение вычисляет средние двоичные потери для каждого класса.

Для пользовательской функции двоичных потерь, например customFunction, задайте его указатель на функцию 'BinaryLoss',@customFunction.
customFunction имеет следующую форму:
```
bLoss = customFunction(M,s)
```
где:
- M - K матрица кодирования L, сохраненная в Mdl.CodingMatrix.
- s - вектор-строка L 1 байта классификационных баллов.
- bLoss - классификационные потери. Этот скаляр агрегирует двоичные потери для каждого учащегося в конкретном классе. Для примера можно использовать среднее значение двоичных потерь для агрегирования потерь по учащимся для каждого класса.
- K - количество классов.
- L - это количество двоичных учащихся.
Для примера передачи пользовательской функции двоичных потерь смотрите Предсказание меток теста-образца модели ECOC с помощью Пользовательской функции двоичных потерь.

Значение по умолчанию BinaryLoss значение зависит от областей значений счетов, возвращаемых двоичными учениками. Эта таблица описывает некоторые BinaryLoss по умолчанию значения, основанные на данных допущениях.

Предположение	Значение по умолчанию
Все двоичные ученики являются SVM или линейными или ядерными классификационными моделями учащихся SVM.	`'hinge'`
Все двоичные ученики - это ансамбли, обученные `AdaboostM1` или `GentleBoost`.	`'exponential'`
Все двоичные ученики - это ансамбли, обученные `LogitBoost`.	`'binodeviance'`
Все двоичные ученики являются линейными или ядерными классификационными моделями обучающихся логистической регрессии. Или вы задаете, чтобы предсказать апостериорные вероятности класса путем установки `'FitPosterior',true` в `fitcecoc`.	`'quadratic'`

Чтобы проверить значение по умолчанию, используйте запись через точку для отображения BinaryLoss свойство обученной модели в командной строке.

Пример: 'BinaryLoss','binodeviance'

Типы данных: char | string | function_handle

`'Decoding'` - Схема декодирования
`'lossweighted'` (по умолчанию) | `'lossbased'`

Схема декодирования, которая агрегирует двоичные потери, заданные как разделенная разделенными запятой парами, состоящая из 'Decoding' и 'lossweighted' или 'lossbased'. Для получения дополнительной информации смотрите Двоичные потери.

Пример: 'Decoding','lossbased'

`'NumKLInitializations'` - Количество случайных начальных значений
`0` (по умолчанию) | неотрицательным целочисленным скаляром

Количество случайных начальных значений для подбора кривой апостериорных вероятностей путем минимизации расхождения Кулбака-Лейблера, заданное как разделенная разделенными запятой парами, состоящая из 'NumKLInitializations' и неотрицательный целочисленный скаляр.

Если вы не запрашиваете четвертый выходной аргумент (Posterior) и установите 'PosteriorMethod','kl' (по умолчанию), тогда программа игнорирует значение NumKLInitializations.

Для получения дополнительной информации см. «Апостериорная оценка с использованием расхождения Кулбэка-Лейблера».

Пример: 'NumKLInitializations',5

Типы данных: single | double

`'Options'` - опции оценки
`[]` (по умолчанию) | массив структур, возвращенный `statset`

Опции оценки, заданные как разделенная разделенными запятой парами, состоящая из 'Options' и массив структур, возвращенный statset.

Чтобы вызвать параллельные вычисления:

Вам нужна лицензия Parallel Computing Toolbox™.
Задайте 'Options',statset('UseParallel',true).

`'PosteriorMethod'` - Апостериорный метод оценки вероятностей
`'kl'` (по умолчанию) | `'qp'`

Апостериорный метод оценки вероятности, заданный как разделенная разделенными запятой парами, состоящая из 'PosteriorMethod' и 'kl' или 'qp'.

Если PosteriorMethod является 'kl'затем программное обеспечение оценивает многоклассовые апостериорные вероятности путем минимизации расхождения Кулбэка-Лейблера между предсказанной и ожидаемой апостериорной вероятностями, возвращенными двоичными учениками. Для получения дополнительной информации смотрите Апостериорную оценку с использованием расхождения Кулбэка-Лейблера.
Если PosteriorMethod является 'qp'затем программное обеспечение оценивает многоклассовые апостериорные вероятности путем решения задачи наименьших квадратов с помощью квадратичного программирования. Чтобы использовать эту опцию, вам нужна лицензия Optimization Toolbox™. Для получения дополнительной информации смотрите Апостериорную оценку с использованием квадратичного программирования.
Если вы не запрашиваете четвертый выходной аргумент (Posterior), тогда программное обеспечение игнорирует значение PosteriorMethod.

Пример: 'PosteriorMethod','qp'

`'Verbose'` - Уровень подробностей
`0` (по умолчанию) | `1`

Уровень подробностей, заданный как разделенная разделенными запятой парами, состоящая из 'Verbose' и 0 или 1. Verbose управляет количеством диагностических сообщений, которые программное обеспечение отображений в Командном окне.

Если Verbose является 0тогда программа не отображает диагностические сообщения. В противном случае программа отображает диагностические сообщения.

Пример: 'Verbose',1

Типы данных: single | double

Выходные аргументы

`label` - Предсказанные метки классов
категориальный массив | символьный массив | логический вектор | числовой вектор | ячеек из символьных векторов

Предсказанные метки классов, возвращенные как категориальный или символьный массив, логический или числовой вектор или массив ячеек из векторов символов.

label имеет тот совпадающий тип данных и количество строк, что и CVMdl.Y.

`NegLoss` - Отрицательные средние двоичные потери
числовая матрица

Отрицательные средние двоичные потери, возвращенные как числовая матрица. NegLoss является n -by - K матрицей, где n - количество наблюдений (size(CVMdl.X,1)) и K количество уникальных классов (size(CVMdl.ClassNames,1)).

`PBScore` - Положительные счета класса
числовая матрица

Счета класса для каждого двоичного ученика, возвращенные в виде числовой матрицы. PBScore является n -by - L матрицей, где n - количество наблюдений (size(CVMdl.X,1)) и L количество двоичных учащихся (size(CVMdl.CodingMatrix,2)).

`Posterior` - Апостериорные вероятности классов
числовая матрица

Апостериорные вероятности классов, возвращенные как числовая матрица. Posterior является n -by - K матрицей, где n - количество наблюдений (size(CVMdl.X,1)) и K количество уникальных классов (size(CVMdl.ClassNames,1)).

Вы должны задать 'FitPosterior',1 при обучении перекрестно проверенной модели ECOC с помощью fitcecoc в порядок запросить Posterior. В противном случае программа выдает ошибку.

Подробнее о

Двоичные потери

binary loss является функцией класса и классификационной оценки, которая определяет, насколько хорошо двоичный ученик классифицирует наблюдение в класс.

Предположим следующее:

_mkj является элементом (k, j) матрицы разработки кодирования M (то есть кода, соответствующего k классов двоичных j обучающегося).
_sj - этот счет двоичных j учащихся для наблюдения.
g является функцией двоичных потерь.
$\hat{k}$ - предсказанный класс для наблюдения.

В loss-based decoding [Escalera et al.] класс, производящий минимальную сумму двоичных потерь по сравнению с двоичными учениками, определяет предсказанный класс наблюдения, то есть

$\hat{k} = \underset{k}{argmin} \sum_{j = 1}^{L} | m_{k j} | g (m_{k j}, s_{j}) .$

В loss-weighted decoding [Escalera et al.] класс, производящий минимальное среднее значение двоичных потерь по сравнению с двоичными учениками, определяет предсказанный класс наблюдения, то есть

$\hat{k} = \underset{k}{argmin} \frac{\sum_{j = 1}^{L} | m_{k j} | g (m_{k j}, s_{j})}{\sum_{j = 1}^{L} | m_{k j} |} .$

Allwein et al. предположим, что утраченное декодирование повышает точность классификации путем сохранения значений потерь для всех классов в одной динамической области значений.

В этой таблице приведены поддерживаемые функции потерь, где _yj является меткой класса для конкретного двоичного обучающегося (в наборе {-1,1,0}), _sj является счетом для j наблюдений и g (_yj, sj).

Значение	Описание	Счет	g (_yj, _sj)
`'binodeviance'`	Биномиальное отклонение	(–∞,∞)	log [1 + exp (-₂ _yjsj) ]/[ 2log (2)]
`'exponential'`	Экспоненциал	(–∞,∞)	exp (- _yjsj )/2
`'hamming'`	Хэмминг	[0,1] или (- ∞, ∞)	[1 - знак (_yjsj) ]/2
`'hinge'`	Стержень	(–∞,∞)	макс (0,1 - _yjsj )/2
`'linear'`	Линейный	(–∞,∞)	(1 – _yjsj)/2
`'logit'`	Логистический	(–∞,∞)	журнал [1 + exp _(- _yjsj) ]/[ 2log (2)]
`'quadratic'`	Квадратный	[0,1]	[1 – _yj (2 _sj – 1)]²/2

Программа нормализует двоичные потери таким образом, что потеря составляет 0,5 при _yj = 0, и агрегирует, используя среднее значение двоичных учащихся [Allwein et al.].

Не путайте двоичные потери с общими классификационными потерями (заданными 'LossFun' Аргумент пары "имя-значение" из loss и predict функции объекта), который измеряет, насколько хорошо классификатор ECOC работает в целом.

Алгоритмы