oobLoss

Ошибка классификации из сумки

Синтаксис

L = oobloss(ens) L = oobloss(ens,Name,Value)

Описание

L = oobloss(ens) возвращает ошибку классификации для ens, вычисленного для данных из сумки.

L = oobloss(ens,Name,Value) вычисляет ошибку с дополнительными опциями, заданными одним или несколькими аргументами пары Name,Value. Можно задать несколько аргументов пары "имя-значение" в любом порядке как Name1,Value1,…,NameN,ValueN.

Входные параметры

ens

Классификация уволила ансамбль, созданный с fitcensemble.

Аргументы в виде пар имя-значение

Укажите необязательные аргументы в виде пар ""имя, значение"", разделенных запятыми. Имя (Name) — это имя аргумента, а значение (Value) — соответствующее значение. Name должен появиться в кавычках. Вы можете задать несколько аргументов в виде пар имен и значений в любом порядке, например: Name1, Value1, ..., NameN, ValueN.

'learners'

Индексы слабых учеников в ансамбле в пределах от 1 к NumTrained. oobLoss использует только этих учеников для вычисления потери.

Значение по умолчанию: 1:NumTrained

'lossfun'

Функция потерь, заданная как пара, разделенная запятой, состоящая из 'LossFun' и встроенного имени функции потерь или указателя на функцию.

В следующей таблице перечислены доступные функции потерь. Задайте тот с помощью его соответствующего вектора символов или представьте скаляр в виде строки.

Значение	Описание
`'binodeviance'`	Биномиальное отклонение
`'classiferror'`	Ошибка классификации
`'exponential'`	Экспоненциал
`'hinge'`	Стержень
`'logit'`	Логистический
`'mincost'`	Минимальный ожидал стоимость misclassification (для очков классификации, которые являются апостериорными вероятностями),
`'quadratic'`	Квадратичный

'mincost' подходит для очков классификации, которые являются апостериорными вероятностями. Уволенные ансамбли возвращают апостериорные вероятности как очки классификации по умолчанию.

Задайте свою собственную функцию с помощью обозначения указателя на функцию.
Предположим, что n является количеством наблюдений в X и K быть количеством отличных классов (numel(ens.ClassNames), ens является входной моделью). Ваша функция должна иметь эту подпись
```
lossvalue = lossfun(C,S,W,Cost)
```
где:
- Выходным аргументом lossvalue является скаляр.
- Вы выбираете имя функции (lossfun).
- C является n-by-K логическая матрица со строками, указывающими, которые классифицируют соответствующее наблюдение, принадлежит. Порядок следования столбцов соответствует порядку класса в ens.ClassNames.
  Создайте C установкой C(p,q) = 1, если наблюдение p находится в классе q для каждой строки. Установите все другие элементы строки p к 0.
- S является n-by-K числовая матрица очков классификации. Порядок следования столбцов соответствует порядку класса в ens.ClassNames. S является матрицей очков классификации, подобных выводу predict.
- W является n-by-1 числовой вектор весов наблюдения. Если вы передаете W, программное обеспечение нормирует их, чтобы суммировать к 1.
- Cost является K-by-K числовая матрица затрат misclassification. Например, Cost = ones(K) - eye(K) задает стоимость 0 для правильной классификации и 1 для misclassification.
Задайте свою функцию с помощью 'LossFun',@lossfun.

Для получения дополнительной информации на функциях потерь, смотрите Потерю Классификации.

Значение по умолчанию: 'classiferror'

'mode'

Вектор символов или скаляр строки представление значения вывода L:

'ensemble' — L является скалярным значением, потерей для целого ансамбля.
'individual' — L является вектором с одним элементом на обученного ученика.
'cumulative' — L является вектором, в котором элементе J получен при помощи учеников 1:J из списка входов учеников.

Значение по умолчанию: 'ensemble'

Выходные аргументы

`L`	Потеря классификации наблюдений из сумки, скаляра. `L` может быть вектором или может представлять различное количество, в зависимости от настроек значения имени.

Примеры

развернуть все

Оцените ошибку из сумки

Скрипт Open Live Script

Загрузите ирисовый набор данных Фишера.

load fisheriris

Вырастите мешок 100 деревьев классификации.

ens = fitcensemble(meas,species,'Method','Bag');

Оцените ошибку классификации из сумки.

L = oobLoss(ens)

L = 0.0400

Больше о

развернуть все

Из сумки

Bagging, который обозначает “агрегацию начальной загрузки”, является типом приобретения знаний ансамблем. Чтобы уволить слабого ученика, такого как дерево решений на наборе данных, fitcensemble генерирует много копий начальной загрузки набора данных и выращивает деревья решений на этих копиях. fitcensemble получает каждую копию начальной загрузки путем случайного выбора наблюдений N из N с заменой, где N является размером набора данных. Чтобы найти предсказанный ответ обученного ансамбля, predict берет среднее значение по прогнозам от отдельных деревьев.

Вытягивание N из наблюдений N с заменой не использует в среднем 37% (1/e) наблюдений для каждого дерева решений. Это наблюдения "из сумки". Для каждого наблюдения oobLoss оценивает прогноз из сумки путем усреднения по прогнозам от всех деревьев в ансамбле, для которого это наблюдение вне сумки. Это затем сравнивает вычисленный прогноз с истинным ответом для этого наблюдения. Это вычисляет ошибку из сумки путем сравнения предсказанных ответов из сумки с истинными ответами для всех наблюдений, используемых для обучения. Это среднее значение из сумки является несмещенным средством оценки истинной ошибки ансамбля.

Потеря классификации

Функции Classification loss измеряют прогнозирующую погрешность моделей классификации. Когда вы сравниваете тот же тип потери среди многих моделей, более низкая потеря указывает на лучшую прогнозирующую модель.

Рассмотрите следующий сценарий.

L является средневзвешенной потерей классификации.
n является объемом выборки.
Для бинарной классификации:
- _yj является наблюдаемой меткой класса. Программные коды это как –1 или 1, указывая на отрицательный или положительный класс, соответственно.
- f (_Xj) является необработанным счетом классификации к наблюдению (строка) j данных о предикторе X.
- _mj = _yj f (_Xj) является счетом классификации к классификации наблюдения j в класс, соответствующий _yj. Положительные значения _mj указывают на правильную классификацию и не способствуют очень средней потере. Отрицательные величины _mj указывают на неправильную классификацию и значительно способствуют средней потере.
Для алгоритмов, которые поддерживают классификацию мультиклассов (то есть, K ≥ 3):
- _yj* является вектором K – 1 нуль, с 1 в положении, соответствующем истинному, наблюдаемому классу _yj. Например, если истинный класс второго наблюдения является третьим классом и K = 4, то y ^*2 = [0 0 1 0] ′. Порядок классов соответствует порядку в свойстве ClassNames входной модели.
- f (_Xj) является длиной вектор K музыки класса к наблюдению j данных о предикторе X. Порядок очков соответствует порядку классов в свойстве ClassNames входной модели.
- _mj = _yj^* ′ f (_Xj). Поэтому _mj является скалярным счетом классификации, который модель предсказывает для истинного, наблюдаемого класса.
Весом для наблюдения j является _wj. Программное обеспечение нормирует веса наблюдения так, чтобы они суммировали к соответствующей предшествующей вероятности класса. Программное обеспечение также нормирует априорные вероятности, таким образом, они суммируют к 1. Поэтому

$\sum_{j = 1}^{n} w_{j} = 1.$

Учитывая этот сценарий, следующая таблица описывает поддерживаемые функции потерь, которые можно задать при помощи аргумента пары "имя-значение" 'LossFun'.

Функция потерь	Значение `LossFun`	Уравнение
Биномиальное отклонение	`'binodeviance'`	$L = \sum_{j = 1}^{n} w_{j} журнал {1 + \exp [- 2 m_{j}]} .$
Экспоненциальная потеря	`'exponential'`	$L = \sum_{j = 1}^{n} w_{j} \exp (- m_{j}) .$
Ошибка классификации	`'classiferror'`	$L = \sum_{j = 1}^{n} w_{j} I {{\hat{y}}_{j} \neq y_{j}} .$ Это - взвешенная часть неправильно классифицированных наблюдений где ${\hat{y}}_{j}$ метка класса, соответствующая классу с максимальной апостериорной вероятностью. I {x} является функцией индикатора.
Потеря стержня	`'hinge'`	$L = \sum_{j = 1}^{n} w_{j} \max {0, 1 - m_{j}} .$
Потеря логита	`'logit'`	$L = \sum_{j = 1}^{n} w_{j} журнал (1 + \exp (- m_{j})) .$
Минимальная стоимость	`'mincost'`	Минимальная стоимость. Программное обеспечение вычисляет взвешенную минимальную стоимость с помощью этой процедуры для наблюдений j = 1..., n. Оцените 1 K вектором ожидаемых затрат классификации для наблюдения j: $γ_{j} = f {(X_{j})}^{'} C .$ f (_Xj) является вектор-столбцом апостериорных вероятностей класса для классификации мультиклассов и двоичного файла. C является матрицей стоимости, которую входная модель хранит в свойстве `Cost`. Для наблюдения j предскажите метку класса, соответствующую минимальной ожидаемой стоимости классификации: ${\hat{y}}_{j} = \min_{j = 1, ..., K} (γ_{j}) .$ Используя C, идентифицируйте, что стоимость подверглась (_cj) для того, чтобы сделать прогноз. Взвешенная, средняя, минимальная потеря стоимости $L = \sum_{j = 1}^{n} w_{j} c_{j} .$
Квадратичная потеря	`'quadratic'`	$L = \sum_{j = 1}^{n} w_{j} {(1 - m_{j})}^{2} .$

Эта фигура сравнивает функции потерь (кроме 'mincost') для одного наблюдения по m. Некоторые функции нормированы, чтобы пройти [0,1].

Документация