Exponenta Banner

fitPosterior

Подходящие апостериорные вероятности для компактного классификатора машины опорных векторов (SVM)

свернуть все на странице

Синтаксис

ScoreSVMModel = fitPosterior(SVMModel,TBL,Y)
ScoreSVMModel = fitPosterior(SVMModel,X,Y)
[ScoreSVMModel,ScoreTransform] = fitPosterior(___)

Описание

ScoreSVMModel = fitPosterior(SVMModel,TBL,Y) возвращает обученный классификатор машины опорных векторов (SVM) ScoreSVMModel содержание оптимальной оценки к преобразованию апостериорной вероятности функционирует для изучения 2D класса. Для получения дополнительной информации см. Алгоритмы. Если вы обучаете SVMModel с помощью таблицы затем необходимо использовать таблицу в качестве входа для fitPosterior.

пример

ScoreSVMModel = fitPosterior(SVMModel,X,Y) возвращает обученный классификатор SVM ScoreSVMModel содержание оптимальной оценки к преобразованию апостериорной вероятности функционирует для изучения 2D класса. Если вы обучаете SVMModel с помощью матрицы затем необходимо использовать матрицу в качестве входа для fitPosterior.

пример

[ScoreSVMModel,ScoreTransform] = fitPosterior(___) дополнительно возвращает оптимальный счет в параметры функции преобразования апостериорной вероятности (ScoreTransform) для любой из комбинаций входных аргументов в предыдущих синтаксисах.

Примеры

свернуть все

Скрипт Open Live Script

Загрузите ionosphere набор данных. Зарезервируйте 20 случайных наблюдений за данными и считайте этот набор новыми данными.

load ionosphere
n = size(X,1);
rng(1);  % For reproducibility

indx = ~ismember([1:n],randsample(n,20)); % Indices for the training data

Классы этого набора данных неотделимы.

Обучите классификатор SVM с помощью обучающих данных. Стандартизируйте данные и задайте тот 'g' положительный класс.

SVMModel = fitcsvm(X(indx,:),Y(indx),'ClassNames',{'b','g'},...
    'Standardize',true);

SVMModel ClassificationSVM классификатор.

Используйте новый набор данных, чтобы оценить оптимальный счет к функции преобразования апостериорной вероятности для отображения баллов к апостериорной вероятности наблюдения, классифицируемого как g. Для КПД сделайте компактную версию SVMModel, и передайте его и новые данные к fitPosterior.

CompactSVMModel = compact(SVMModel);
[ScoreCSVMModel,ScoreParameters] = fitPosterior(CompactSVMModel,...
    X(~indx,:),Y(~indx));

ScoreTransform = ScoreCSVMModel.ScoreTransform
ScoreTransform = 
'@(S)sigmoid(S,-1.099032e+00,4.521358e-01)'

ScoreParameters
ScoreParameters = struct with fields:
         Type: 'sigmoid'
        Slope: -1.0990
    Intercept: 0.4521

ScoreTransform оптимальная функция преобразования счета. ScoreParameters массив структур с тремя полями: имя функции преобразования счета (Type), сигмоидальный наклон (Slope), и сигмоидальные оценки прерывания (Intercept).

В качестве альтернативы можно передать SVMModel и новые данные к fitSVMPosterior, но этот процесс не так эффективен.

Оцените апостериорные вероятности, что наблюдения в новых данных находятся в классе g.

[labels,postProbs] = predict(ScoreCSVMModel,X(~indx,:));
table(Y(~indx),labels,postProbs(:,2),...
    'VariableNames',{'TrueLabel','PredictedLabel','PosteriorProbability'})
ans=20×3 table
    TrueLabel    PredictedLabel    PosteriorProbability
    _________    ______________    ____________________

      {'g'}          {'g'}                 0.78441     
      {'b'}          {'b'}                0.024573     
      {'g'}          {'g'}                 0.82404     
      {'b'}          {'b'}               0.0061609     
      {'b'}          {'b'}              3.6018e-06     
      {'b'}          {'b'}                 0.15688     
      {'b'}          {'g'}                 0.96219     
      {'b'}          {'b'}              6.1253e-09     
      {'b'}          {'b'}               0.0019635     
      {'g'}          {'g'}                 0.72509     
      {'g'}          {'g'}                 0.70264     
      {'b'}          {'b'}                0.075291     
      {'g'}          {'g'}                 0.90693     
      {'g'}          {'g'}                  0.8285     
      {'b'}          {'b'}                0.051175     
      {'g'}          {'g'}                 0.95333     
      ⋮
Скрипт Open Live Script

Загрузите ирисовый набор данных Фишера. Используйте лепестковые длины и ширины как данные о предикторе, и удалите virginica разновидности из данных. Зарезервируйте 10 случайных наблюдений за данными и считайте этот набор новыми данными.

load fisheriris
classKeep = ~strcmp(species,'virginica');
X = meas(classKeep,3:4);
Y = species(classKeep);

rng(1);  % For reproducibility 
indx1 = 1:numel(species);
indx2 = indx1(classKeep);
indx = ~ismember(indx2,randsample(indx2,10)); % Indices for the training data

gscatter(X(indx,1),X(indx,2),Y(indx));
title('Scatter Diagram of Iris Measurements')
xlabel('Petal length')
ylabel('Petal width')
legend('Setosa','Versicolor')

Классы совершенно отделимы. Поэтому счет к функции преобразования апостериорной вероятности является ступенчатой функцией.

Обучите классификатор SVM. Стандартизируйте данные и задайте тот versicolor положительный класс.

SVMModel = fitcsvm(X(indx,:),Y(indx),...
    'ClassNames',{'setosa','versicolor'},'Standardize',true);

SVMModel ClassificationSVM классификатор.

Используйте новый набор данных, чтобы оценить оптимальный счет к функции преобразования апостериорной вероятности для отображения баллов к апостериорной вероятности наблюдения, классифицируемого как versicolor. Для КПД сделайте компактную версию SVMModel, и передайте его и новые данные к fitPosterior.

CompactSVMModel = compact(SVMModel);
[ScoreCSVMModel,ScoreParameters] = fitPosterior(CompactSVMModel,...
    X(~indx,:),Y(~indx));
Warning: Classes are perfectly separated. The optimal score-to-posterior transformation is a step function.

ScoreTransform = ScoreCSVMModel.ScoreTransform
ScoreTransform = 
'@(S)step(S,-1.338450e+00,2.012495e+00,5.333333e-01)'

fitPosterior выводит предупреждение каждый раз, когда классы отделимы, и хранит ступенчатую функцию в ScoreSVMModel.ScoreTransform.

Отобразите тип функции счета и его ориентировочные стоимости.

ScoreParameters
ScoreParameters = struct with fields:
                        Type: 'step'
                  LowerBound: -1.3385
                  UpperBound: 2.0125
    PositiveClassProbability: 0.5333

ScoreParameters массив структур с четырьмя полями:

  • Выиграйте тип функции преобразования (Type)

  • Счет, соответствующий отрицательному контуру класса (LowerBound)

  • Счет, соответствующий положительному контуру класса (UpperBound)

  • Положительная вероятность класса (PositiveClassProbability)

В качестве альтернативы можно передать SVMModel и новые данные к fitSVMPosterior, но этот процесс не так эффективен.

Оцените апостериорные вероятности, что наблюдения в новых данных являются ирисовыми диафрагмами versicolor.

[labels,postProbs] = predict(ScoreCSVMModel,X(~indx,:));
table(Y(~indx),labels,postProbs(:,2),...
    'VariableNames',{'TrueLabel','PredictedLabel','PosteriorProbability'})
ans=10×3 table
      TrueLabel       PredictedLabel    PosteriorProbability
    ______________    ______________    ____________________

    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'setosa'    }    {'setosa'    }             0          
    {'versicolor'}    {'versicolor'}             1          
    {'versicolor'}    {'versicolor'}             1

Поскольку классы отделимы, ступенчатая функция преобразовывает счет положительного класса к:

  • 0 если счет меньше ScoreParameters.LowerBound

  • 1 если счет больше ScoreParameters.UpperBound

  • ScoreParameters.PositiveClassProbability если счет находится в интервале [ScoreParameters.LowerBound , ScoreParameters.LowerBound]

Входные параметры

свернуть все

Обученный, компактный классификатор SVM в виде CompactClassificationSVM модель, возвращенная compact.

Выборочные данные в виде таблицы. Каждая строка TBL соответствует одному наблюдению, и каждый столбец соответствует одному переменному предиктору. TBL должен содержать все предикторы, используемые, чтобы обучить SVMModel. Опционально, TBL может содержать дополнительный столбец для переменной отклика. Многостолбцовые переменные и массивы ячеек кроме массивов ячеек из символьных векторов не позволены.

Если TBL содержит переменную отклика, используемую, чтобы обучить SVMModel, затем вы не должны задавать Y. Если TBL не включает переменную отклика, затем длина Y должно быть равно количеству строк в TBL.

Если выборочные данные раньше обучали SVMModel table, затем необходимо задать входные данные для fitPosterior как таблица.

Если вы устанавливаете 'Standardize',true \in fitcsvm когда учебный SVMModel, затем программное обеспечение соответствует оценкам параметра функции преобразования с помощью стандартизированных данных.

Типы данных: table

Данные о предикторе раньше оценивали счет к функции преобразования апостериорной вероятности в виде матрицы.

Каждая строка X соответствует одному наблюдению (также известный как экземпляр или пример), и каждый столбец соответствует одной переменной (также известный как функцию).

Длина Y и количество строк в X должно быть равным.

Если вы устанавливаете 'Standardize',true \in fitcsvm когда учебный SVMModel, затем программное обеспечение соответствует оценкам параметра функции преобразования с помощью стандартизированных данных.

Типы данных: double | single

Метки класса раньше оценивали счет к функции преобразования апостериорной вероятности в виде категориального, символа, или массива строк, логического или числового вектора или массива ячеек из символьных векторов.

Если Y символьный массив, затем каждый элемент должен соответствовать одной метке класса.

Длина Y и количество строк в X должно быть равным.

Типы данных: categorical | char | string | logical | single | double | cell

Выходные аргументы

свернуть все

Обученный, компактный классификатор SVM, содержащий предполагаемую оценку к функции преобразования апостериорной вероятности, возвращенной как CompactClassificationSVM классификатор.

Чтобы оценить апостериорные вероятности для новых наблюдений, передайте ScoreSVMModel и новые наблюдения к predict.

Оптимальный счет к параметрам функции преобразования апостериорной вероятности, возвращенным как массив структур.

  • Если значение Type поле ScoreTransform sigmoid, затем ScoreTransform также имеет эти поля:

  • Если значение Type поле ScoreTransform step, затем ScoreTransform также имеет эти поля:

    • PositiveClassProbability: Значение π в ступенчатой функции. Это значение представляет вероятность, что наблюдение находится в положительном классе или апостериорной вероятности, что наблюдение находится в положительном классе, данном, что его счет находится в интервале (LowerBound, UpperBound).

    • LowerBound: Значение maxyn=−1sn в ступенчатой функции. Это значение представляет нижнюю границу интервала счета, который присваивает наблюдения с баллами в интервале апостериорная вероятность того, чтобы быть в положительном классе PositiveClassProbability. Любое наблюдение со счетом меньше, чем LowerBound имеет апостериорную вероятность того, чтобы быть в положительном классе, равном 0.

    • UpperBound: Значение minyn=+1sn в ступенчатой функции. Это значение представляет верхнюю границу интервала счета, который присваивает наблюдения с баллами в интервале апостериорная вероятность того, чтобы быть в положительном классе PositiveClassProbability. Любое наблюдение со счетом, больше, чем UpperBound имеет апостериорную вероятность того, чтобы быть в положительном классе, равном 1.

  • Если значение Type поле ScoreTransform constant, затем ScoreTransform.PredictedClass содержит имя предсказания класса.

    Этот результат совпадает с SVMModel.ClassNames. Апостериорная вероятность наблюдения, находящегося в ScoreTransform.PredictedClass всегда 1.

Больше о

свернуть все

Сигмоидальная функция

Сигмоидальная функция, которая сопоставляет, выигрывает sj, соответствующий наблюдению, которое j к положительной апостериорной вероятности класса

P(sj)=11+exp(Asj+B).

Если значение Type поле ScoreTransform sigmoid, затем параметры A и B соответствуют полям Scale и Intercept из ScoreTransform, соответственно.

Ступенчатая функция

Ступенчатая функция, которая сопоставляет, выигрывает sj, соответствующий наблюдению, которое j к положительной апостериорной вероятности класса

P(sj)={0;s<maxyk=−1skπ;maxyk=−1sk≤sj≤minyk=+1sk1;sj>minyk=+1sk,

где:

  • sj является счетом наблюдения j.

  • +1 и –1 обозначают положительные и отрицательные классы, соответственно.

  • π является априорной вероятностью, что наблюдение находится в положительном классе.

Если значение Type поле ScoreTransform step, затем количества maxyk=−1sk и minyk=+1sk соответствуйте полям LowerBound и UpperBound из ScoreTransform, соответственно.

Постоянная функция

Постоянная функция сопоставляет все баллы в выборке к апостериорным вероятностям 1 или 0.

Если все наблюдения будут иметь апостериорную вероятность 1, то они, как ожидают, произойдут из положительного класса.

Если все наблюдения будут иметь апостериорную вероятность 0, то они, как ожидают, не произойдут из положительного класса.

Советы

  • Этот процесс описывает один способ предсказать положительные апостериорные вероятности класса.

    1. Обучите классификатор SVM путем передачи данных fitcsvm. Результатом является обученный классификатор SVM, такой как SVMModel, это хранит данные. Программное обеспечение устанавливает свойство функции преобразования счета (SVMModel.ScoreTransformation) к none.

    2. Передайте обученный классификатор SVM SVMModel к fitSVMPosterior или fitPosterior. Результат, такой как, ScoreSVMModel, обученный классификатор того же самого SVM как SVMModel, кроме программного обеспечения устанавливает ScoreSVMModel.ScoreTransformation к оптимальной функции преобразования счета.

    3. Передайте матрицу данных предиктора и обученный классификатор SVM, содержащий оптимальную функцию преобразования счета (ScoreSVMModel) к predict. Второй столбец во втором выходном аргументе predict хранит положительные апостериорные вероятности класса, соответствующие каждой строке матрицы данных предиктора.

      Если вы пропускаете шаг 2, то predict возвращает положительный счет класса, а не положительную апостериорную вероятность класса.

  • После подбора кривой апостериорным вероятностям можно сгенерировать код C/C++, который предсказывает метки для новых данных. Генерация кода C/C++ требует MATLAB® Coder™. Для получения дополнительной информации смотрите Введение в Генерацию кода.

Алгоритмы

Программное обеспечение соответствует соответствующему счету к функции преобразования апостериорной вероятности при помощи классификатора SVM SVMModel и путем проведения 10-кратной перекрестной проверки с помощью хранимых данных о предикторе (SVMModel.X) и метки класса (SVMModel.Y), как обрисовано в общих чертах в [1]. Функция преобразования вычисляет апостериорную вероятность, что наблюдение классифицируется в положительный класс (SVMModel.Classnames(2)).

  • Если классы неотделимы, то функция преобразования является сигмоидальной функцией.

  • Если классы совершенно отделимы, то функция преобразования является ступенчатой функцией.

  • В изучении 2D класса, если один из этих двух классов имеет относительную частоту 0, то функция преобразования является постоянной функцией. fitPosterior функция не подходит для изучения одного класса.

  • Программное обеспечение хранит оптимальный счет к функции преобразования апостериорной вероятности в ScoreSVMModel.ScoreTransform.

Если вы повторно оцениваете счет к функции преобразования апостериорной вероятности, то есть, если вы передаете классификатор SVM fitPosterior или fitSVMPosterior и его ScoreTransform свойством не является none, затем программное обеспечение:

  • Выводит предупреждение

  • Сбрасывает исходную функцию преобразования к 'none' прежде, чем оценить новый

Альтернативная функциональность

Можно также соответствовать оптимальному счету к функции апостериорной вероятности при помощи fitSVMPosterior. Эта функция похожа на fitPosterior, кроме него более широко, потому что это принимает более широкую область значений типов классификатора SVM.

Ссылки

[1] Платт, J. “Вероятностные выходные параметры для машин опорных векторов и сравнений с упорядоченными методами вероятности”. Усовершенствования в Больших Граничных Классификаторах. Кембридж, MA: Нажатие MIT, 2000, стр 61–74.

Смотрите также

| | |

Введенный в R2014a

Документация Statistics and Machine Learning Toolbox

Поддержка