Документация

Выберите тип классификатора

Можно использовать Classification Learner, чтобы автоматически обучить выбор различных моделей классификации на данных. Используйте автоматизированное обучение быстро попробовать выбор типов модели, затем исследуйте многообещающие модели в интерактивном режиме. Чтобы начать, попробуйте эти опции сначала:

Смотрите автоматизированное обучение классификатора.

Если вы хотите исследовать классификаторы по одному, или вы уже знаете, какой тип классификатора вы хотите, можно выбрать отдельные модели или обучить группу того же типа. Чтобы видеть все доступные опции классификатора, на вкладке Classification Learner, кликают по стрелке на ультраправом из раздела Model Type, чтобы расширить список классификаторов. Опции в галерее Model Type являются предварительно установленными отправными точками с различными настройками, подходящими для области значений различных проблем классификации.

Для справки, выбирая лучший тип классификатора для вашей проблемы, см., что таблица показывает типичные характеристики различных контролируемых алгоритмов изучения. Используйте таблицу в качестве руководства для вашего итогового выбора алгоритмов. Выберите компромисс, который вы хотите в скорости, использовании памяти, гибкости и interpretability. Лучший тип классификатора зависит от ваших данных.

Характеристики типов классификатора

Классификатор	Скорость прогноза	Использование памяти	Interpretability
Деревья решений	Быстро	Маленький	Легкий
Дискриминантный анализ	Быстро	Маленький для линейного, большого для квадратичного	Легкий
Логистическая регрессия	Быстро	Носитель	Легкий
Поддержите векторные машины Примечание Генерация кода C поддержек для прогноза.	Носитель для линейного Медленный для других	Носитель для линейного. Все другие: носитель для мультикласса, большого для двоичного файла.	Легкий для линейного SVM. Трудный для всех других типов ядра.
Самые близкие соседние классификаторы	Медленный для кубического Носитель для других	Носитель	Трудно
Классификаторы ансамбля	Быстро к носителю в зависимости от выбора алгоритма	Низко к высоко в зависимости от выбора алгоритма	Трудно
Наивные классификаторы Байеса	Носитель для простых дистрибутивов Медленный для дистрибутивов ядра или высоко-размерных данных	Маленький для простых дистрибутивов Носитель для дистрибутивов ядра или высоко-размерных данных	Легкий

Таблицы на этой странице описывают общие характеристики скорости и использования памяти для всех предварительно установленных классификаторов. Классификаторы были протестированы с различными наборами данных (до 7 000 наблюдений, 80 предикторов и 50 классов), и результаты задают следующие группы:

Скорость

Memory

Эти таблицы предоставляют общее руководство. Ваши результаты зависят от ваших данных и скорости вашей машины.

Чтобы считать описание каждого классификатора в Classification Learner, переключитесь на представление деталей.

Для инструкций по рабочему процессу см. Модели Классификации Train в Приложении Classification Learner.

Деревья решений

Деревья решений легко интерпретировать, быстро для подбора кривой и прогноза, и низко на использовании памяти, но у них может быть низкая прогнозирующая точность. Попытайтесь вырастить более простые деревья, чтобы предотвратить сверхподбор кривой. Управляйте глубиной с установкой Maximum number of splits.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Крупное дерево	Быстро	Маленький	Легкий	Низко Немного листов, чтобы сделать крупные различия между классами (максимальное количество разделений равняется 4).
Среднее дерево	Быстро	Маленький	Легкий	Носитель Среднее количество уезжает в более прекрасные различия между классами (максимальное количество разделений равняется 20).
Прекрасное дерево	Быстро	Маленький	Легкий	Высоко Много листов, чтобы сделать много тонких различий между классами (максимальное количество разделений равняется 100).

Вы обучаете деревья классификации предсказывать ответы на данные. Чтобы предсказать ответ, следуйте за решениями в дереве от корня (начало) узел вниз к вершине. Вершина содержит ответ. Деревья Statistics and Machine Learning Toolbox™ являются двоичным файлом. Каждый шаг в прогнозе включает проверку значения одного предиктора (переменная). Например, вот простое дерево классификации:

Это дерево предсказывает классификации на основе двух предикторов, x1 и x2. Чтобы предсказать, запустите в главном узле. При каждом решении проверяйте значения предикторов, чтобы решить который ответвление следовать. Когда ответвления достигают вершины, данные классифицируются или как тип 0 или как 1.

Можно визуализировать модель дерева принятия решения путем экспорта модели из приложения и затем ввода:

view(trainedModel.ClassificationTree,'Mode','graph') 

Дискриминантный анализ

Дискриминантный анализ является популярным первым алгоритмом классификации, который попробует, потому что это быстро, точно и легко интерпретировать. Дискриминантный анализ хорош для широких наборов данных.

Дискриминантный анализ принимает, что различные классы генерируют данные на основе различных Распределений Гаусса. Чтобы обучить классификатор, подходящая функция оценивает параметры Распределения Гаусса для каждого класса.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Линейный дискриминант	Быстро	Маленький	Легкий	Низко Создает линейные контуры между классами.
Квадратичный дискриминант	Быстро	Большой	Легкий	Низко Создает нелинейные контуры между классами (эллипс, парабола или гипербола).

Логистическая регрессия

Если у вас есть 2 класса, логистическая регрессия является популярным простым алгоритмом классификации, чтобы попробовать, потому что легко интерпретировать. Классификатор моделирует вероятности класса как функцию линейной комбинации предикторов.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Логистическая регрессия	Быстро	Носитель	Легкий	Низко Вы не можете изменить параметры на гибкость модели управления.

Логистическая регрессия в Classification Learner использует функцию fitglm. Вы не можете установить опции для этого классификатора в приложении.

Поддержите векторные машины

В Classification Learner можно обучить SVMs, когда данные имеют два или больше класса.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Линейный SVM	Двоичный файл: быстро Мультикласс: носитель	Носитель	Легкий	Низко Делает простое линейное разделение между классами.
Квадратичный SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель
Кубический SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель
Прекрасный гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Высоко — уменьшается с установкой шкалы ядра. Делает точно подробные различия между классами, с набором шкалы ядра к sqrt(P)/4.
Средний гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель Средние различия, с ядром масштабируют набор к sqrt(P).
Крупный гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Низко Делает крупные различия между классами, с набором шкалы ядра к sqrt(P)*4, где P является количеством предикторов.

SVM классифицирует данные путем нахождения лучшей гиперплоскости, которая разделяет точки данных одного класса от тех из другого класса. Лучшая гиперплоскость для SVM означает тот с самым большим полем между этими двумя классами. Поле означает максимальную ширину плиты, параллельной гиперплоскости, которая не имеет никаких внутренних точек данных.

support vectors является точками данных, которые являются самыми близкими к отделяющейся гиперплоскости; эти точки находятся на контуре плиты. Следующая фигура иллюстрирует эти определения, с + указание на точки данных типа 1, и – указание на точки данных типа-1.

SVMs может также использовать мягкое поле, означая гиперплоскость, которая разделяет многих, но не все точки данных.

Для примера смотрите, что Машины Вектора Поддержки Train Используют Приложение Classification Learner.

Самые близкие соседние классификаторы

Самые близкие соседние классификаторы обычно имеют хорошую прогнозирующую точность в низких размерностях, но не может в высоких размерностях. Они имеют использование верхней памяти и не легки интерпретировать.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Прекрасный KNN	Носитель	Носитель	Трудно	Точно подробные различия между классами. Номер соседей определяется к 1.
Средний KNN	Носитель	Носитель	Трудно	Средние различия между классами. Номер соседей определяется к 10.
Крупный KNN	Носитель	Носитель	Трудно	Крупные различия между классами. Номер соседей определяется к 100.
Косинус KNN	Носитель	Носитель	Трудно	Средние различия между классами, с помощью метрики расстояния Косинуса. Номер соседей определяется к 10.
Кубический KNN	Медленный	Носитель	Трудно	Средние различия между классами, с помощью кубической метрики расстояния. Номер соседей определяется к 10.
Взвешенный KNN	Носитель	Носитель	Трудно	Средние различия между классами, с помощью веса расстояния. Номер соседей определяется к 10.

Что такое k - Самая близкая Соседняя классификация? Категоризация точек запроса на основе их расстояния до точек (или соседи) в обучающем наборе данных может быть простым все же эффективным способом классифицировать новые точки. Можно использовать различные метрики, чтобы определить расстояние. Учитывая набор X точек n и функции расстояния, k - самый близкий сосед (k NN) поиск позволяет вам найти k самыми близкими точками в X к точке запроса или набору точек. k основанные на NN алгоритмы широко используется в качестве правил машинного обучения сравнительного теста.

Для примера смотрите Train Самые близкие Соседние Классификаторы Используя Приложение Classification Learner.

Классификаторы ансамбля

Комбинация классификаторов ансамбля следует из многих слабых учеников в одну высококачественную модель ансамбля. Качества зависят от выбора алгоритма.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Метод ансамбля	Образцовая гибкость
Повышенные деревья	Быстро	Низко	Трудно	AdaBoost, с учениками Decision Tree	Носитель к высокому — увеличивается с установкой Number of learners или Maximum number of splits. Совет Повышенные деревья могут обычно добиваться большего успеха, чем сложенный в мешок, но могут потребовать настройки параметра и большего количества учеников
Сложенные в мешок деревья	Носитель	Высоко	Трудно	Случайный лес Bag, с учениками Decision Tree	Высоко — увеличивается с установкой Number of learners. Совет Попробуйте этот классификатор сначала.
Дискриминант подпространства	Носитель	Низко	Трудно	Subspace, с учениками Discriminant	Носитель — увеличивается с установкой Number of learners. Хороший для многих предикторов
Подпространство KNN	Носитель	Носитель	Трудно	Subspace, с учениками Nearest Neighbor	Носитель — увеличивается с установкой Number of learners. Хороший для многих предикторов
Деревья RUSBoost	Быстро	Низко	Трудно	RUSBoost, с учениками Decision Tree	Носитель — увеличивается с установкой Number of learners или Maximum number of splits. Хороший для скошенных данных (со значительно большим количеством наблюдений за 1 классом)
GentleBoost или LogitBoost — не доступный в галерее Model Type. Если у вас есть 2 данных о классе, выберите вручную.	Быстро	Низко	Трудно	GentleBoost или LogitBoost, с учениками Decision Tree Выберите Boosted Trees и изменение в методе GentleBoost.	Носитель — увеличивается с установкой Number of learners или Maximum number of splits. Для бинарной классификации только

Сложенные в мешок деревья используют алгоритм 'random forest' Бреимена. Для ссылки смотрите Бреимена, L. Случайные Леса. Машинное обучение 45, стр 5–32, 2001.

Советы

Для примера смотрите, что Классификаторы Ансамбля Train Используют Приложение Classification Learner.

Наивные классификаторы Байеса

Наивные классификаторы Байеса легко интерпретировать и полезный для классификации мультиклассов. Наивный алгоритм Бейеса усиливает теорему Бейеса и делает предположение, что предикторы условно независимы, учитывая класс. Используйте эти классификаторы, если это предположение независимости допустимо для предикторов в ваших данных. Однако алгоритм все еще, кажется, работает хорошо, когда предположение независимости не допустимо.

Для наивных классификаторов Байеса ядра можно управлять ядром более сглаженный тип с установкой Kernel Type и управлять ядром, сглаживающим поддержку плотности с установкой Support.

Тип классификатора	Скорость прогноза	Использование памяти	Interpretability	Образцовая гибкость
Гауссов наивный байесов	Носитель Медленный для высоко-размерных данных	Маленький Носитель для высоко-размерных данных	Легкий	Низко Вы не можете изменить параметры на гибкость модели управления.
Ядро, наивное байесов	Медленный	Носитель	Легкий	Носитель Можно изменить настройки для Kernel Type и Support, чтобы управлять как дистрибутивы предиктора моделей классификатора.

Наивный Байесов в Classification Learner использует функцию fitcnb.