Классификационные ансамбли

Бустинг, случайный лес, упаковка в мешки, случайный подпространство и ансамбли ECOC для многоклассового обучения

Классификационный ансамбль является прогнозирующей моделью, состоящей из взвешенной комбинации нескольких классификационных моделей. В целом, объединение нескольких классификационных моделей увеличивает прогнозирующую эффективность.

Чтобы исследовать классификационные ансамбли в интерактивном режиме, используйте Classification Learner приложения. Для большей гибкости используйте fitcensemble в интерфейсе командной строки для увеличения или сумки деревьев классификации или для выращивания случайного леса [12]. Подробную информацию обо всех поддерживаемых ансамблях см. в Ensemble Algorithms. Чтобы уменьшить многоклассовую задачу в ансамбль двоичных задач классификации, обучите модель выходных кодов с исправлением ошибок (ECOC). Для получения дополнительной информации смотрите fitcecoc.

Чтобы повысить регрессионные деревья с помощью LSBoost или вырастить случайный лес регрессионых деревьев [12], смотрите Regression Ensembles.

Приложения

Classification LearnerОбучите модели классифицировать данные с помощью машинного обучения с учителем

Блоки

ClassificationEnsemble PredictКлассифицируйте наблюдения с помощью ансамбля деревьев решений

Функции

расширить все

templateDiscriminantШаблон классификатора дискриминантного анализа
templateECOCИсправление ошибок выхода обучающегося выходного кода
templateEnsembleШаблон обучения ансамбля
templateKNNk - шаблон классификатора по ближайшему соседу
templateLinearШаблон обучающегося с линейной классификацией
templateNaiveBayesНаивный классификатор Байеса
templateSVMМашина опорных векторов
templateTreeСоздайте шаблон дерева решений
fitcensembleПодгонка ансамбля учащихся для классификации
predictКлассифицируйте наблюдения с помощью ансамбля классификационных моделей
oobPredictПредсказание отклика ансамбля вне мешка
TreeBaggerСоздайте сумку деревьев принятия решений
fitcensembleПодгонка ансамбля учащихся для классификации
predictПрогнозируйте ответы с помощью ансамбля упакованных деревьев решений
oobPredictАнсамблевые предсказания для наблюдений вне мешка
fitcecocПодгонка многоклассовых моделей для машин опорных векторов или других классификаторов
templateSVMМашина опорных векторов
predictКлассифицируйте наблюдения с помощью многоклассовой модели выходных кодов с коррекцией ошибок (ECOC)

Классы

расширить все

ClassificationEnsembleКлассификатор ансамбля
CompactClassificationEnsembleКласс компактного классификационного ансамбля
ClassificationPartitionedEnsembleПерекрестно проверенный классификационный ансамбль
TreeBaggerМешок деревьев принятия решений
CompactTreeBaggerКомпактный ансамбль деревьев принятия решений, выращенных агрегированием bootstrap
ClassificationBaggedEnsembleКлассификационный ансамбль, выращенный путем повторной дискретизации
ClassificationECOCМногоклассовая модель для машин опорных векторов (SVM) и других классификаторов
CompactClassificationECOCКомпактная многоклассовая модель для машин опорных векторов (SVM) и других классификаторов
ClassificationPartitionedECOCПерекрестный мультикласс модель ECOC для машин опорных векторов (SVM) и других классификаторов

Темы

Обучите классификаторы ансамблей, используя приложение Classification Learner

Создайте и сравните классификаторы ансамблей, и экспортируйте обученные модели, чтобы делать предсказания для новых данных.

Среда для обучения в ансамбле

Получите высокоточные предсказания при помощи многих слабых учащихся.

Алгоритмы ансамбля

Узнайте о различных алгоритмах обучения в ансамбле.

Учебный классификационный ансамбль

Обучите простой классификационный ансамбль.

Качество тестового ансамбля

Изучения методов оценки прогнозирующего качества ансамбля.

Обрабатывайте несбалансированные данные или неравные затраты на неправильную классификацию в классификационных ансамблях

Узнать, как установить предыдущие вероятности классов и затраты на неправильную классификацию.

Классификация с несбалансированными данными

Используйте алгоритм RUSBoost для классификации, когда один или несколько классов перепредставлены в ваших данных.

LPBoost и TotalBoost для малых ансамблей

Создайте небольшие ансамбли с помощью алгоритмов LPBoost и TotalBoost. (LPBoost и TotalBoost требуют Toolbox™ оптимизации.)

Настройка RobustBoost

Настройка параметров RobustBoost для лучшей точности прогноза. (Для RobustBoost требуется Optimization Toolbox.)

Суррогатные сплайты

Получите лучшие предсказания, когда у вас есть отсутствующие данные с помощью суррогатных разделений.

Обучите классификационный ансамбль параллельно

Обучите пакетированный ансамбль параллельно воспроизводимо.

Агрегация Bootstrap (Bagging) классификационных деревьев с использованием TreeBagger

Создайте TreeBagger ансамбль для классификации.

Кредитный рейтинг путем упаковки деревьев решений

В этом примере показано, как создать автоматический инструмент кредитного рейтинга.

Классификация случайных подпространств

Увеличьте точность классификации при помощи случайного ансамбля подпространства.

Предсказание меток классов с помощью блока ClassificationEnsemble Predict

Обучите модель классификационного ансамбля с оптимальными гиперпараметрами, а затем используйте блок ClassificationEnsemble Predict для предсказания меток.