Документация

Выберите тип классификатора

Можно использовать Classification Learner, чтобы автоматически обучить выбор различных моделей классификации на данных. Используйте автоматизированное обучение быстро попробовать выбор типов модели, затем исследуйте многообещающие модели в интерактивном режиме. Чтобы начать, попробуйте эти опции сначала:

Смотрите автоматизированное обучение классификатора.

Если вы хотите исследовать классификаторы по одному, или вы уже знаете, какой тип классификатора вы хотите, можно выбрать отдельные модели или обучить группу того же типа. Чтобы видеть все доступные опции классификатора, на вкладке Classification Learner, кликают по стреле на ультраправом из раздела Model Type, чтобы расширить список классификаторов. nonoptimizable опции модели в галерее Model Type являются предварительно установленными начальными точками с различными настройками, подходящими для области значений различных проблем классификации. Чтобы использовать optimizable опции модели и гиперпараметры модели мелодии автоматически, смотрите Гипероптимизацию параметров управления в Приложении Classification Learner.

Для справки, выбирая лучший тип классификатора для вашей проблемы, см., что таблица показывает типичные характеристики различных алгоритмов контролируемого обучения. Используйте таблицу в качестве руководства для вашего итогового выбора алгоритмов. Выберите компромисс, который вы хотите в скорости, использовании памяти, гибкости и interpretability. Лучший тип классификатора зависит от ваших данных.

Характеристики типов классификатора

Классификатор	Скорость предсказания	Использование памяти	Interpretability
Деревья решений	Быстро	Маленький	Легкий
Дискриминантный анализ	Быстро	Маленький для линейного, большого для квадратичного	Легкий
Логистическая регрессия	Быстро	Носитель	Легкий
Машины опорных векторов Примечание Генерация кода C поддержек для предсказания.	Носитель для линейного Медленный для других	Носитель для линейного. Все другие: носитель для мультикласса, большого для двоичного файла.	Легкий для линейного SVM. Трудный для всех других типов ядра.
Самые близкие соседние классификаторы	Медленный для кубического Носитель для других	Носитель	Трудно
Классификаторы ансамбля	Быстро к носителю в зависимости от выбора алгоритма	Низко к высоко в зависимости от выбора алгоритма	Трудно
Наивные классификаторы Байеса	Носитель для простых распределений Медленный для распределений ядра или высоко-размерных данных	Маленький для простых распределений Носитель для распределений ядра или высоко-размерных данных	Легкий

Таблицы на этой странице описывают общие характеристики скорости и использования памяти для всех nonoptimizable предварительно установленных классификаторов. Классификаторы были протестированы с различными наборами данных (до 7 000 наблюдений, 80 предикторов и 50 классов), и результаты задают следующие группы:

Скорость

Memory

Эти таблицы предоставляют общее руководство. Ваши результаты зависят от ваших данных и скорости вашей машины.

Чтобы считать описание каждого классификатора в Classification Learner, переключитесь на представление деталей.

Для инструкций по рабочему процессу смотрите, Обучают Модели Классификации в Приложении Classification Learner.

Деревья решений

Деревья решений легко интерпретировать, быстро для подбора кривой и предсказания, и низко на использовании памяти, но у них может быть низкая прогнозирующая точность. Попытайтесь вырастить более простые деревья, чтобы предотвратить сверхподбор кривой. Управляйте глубиной с установкой Maximum number of splits.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Крупное дерево	Быстро	Маленький	Легкий	Низко Немного листов, чтобы сделать крупные различия между классами (максимальное количество разделений равняется 4).
Среднее дерево	Быстро	Маленький	Легкий	Носитель Среднее количество уезжает в более прекрасные различия между классами (максимальное количество разделений равняется 20).
Прекрасное дерево	Быстро	Маленький	Легкий	Высоко Много листов, чтобы сделать много тонких различий между классами (максимальное количество разделений равняется 100).

Вы обучаете деревья классификации предсказывать ответы на данные. Чтобы предсказать ответ, следуйте за решениями в дереве от корня (начало) узел вниз к вершине. Вершина содержит ответ. Деревья Statistics and Machine Learning Toolbox™ являются двоичным файлом. Каждый шаг в предсказании включает проверку значения одного предиктора (переменная). Например, вот простое дерево классификации:

Это дерево предсказывает классификации на основе двух предикторов, x1 и x2. Чтобы предсказать, запустите в главном узле. При каждом решении проверяйте значения предикторов, чтобы решить который ветвь следовать. Когда ветви достигают вершины, данные классифицируются любой как тип 0 или 1.

Можно визуализировать модель дерева принятия решения путем экспорта модели из приложения и затем ввода:

view(trainedModel.ClassificationTree,'Mode','graph') 

Дискриминантный анализ

Дискриминантный анализ является популярным первым алгоритмом классификации, который попробует, потому что это быстро, точно и легко интерпретировать. Дискриминантный анализ хорош для широких наборов данных.

Дискриминантный анализ принимает, что различные классы генерируют данные на основе различных Распределений Гаусса. Чтобы обучить классификатор, подходящая функция оценивает параметры Распределения Гаусса для каждого класса.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Линейный дискриминант	Быстро	Маленький	Легкий	Низко Создает линейные контуры между классами.
Квадратичный дискриминант	Быстро	Большой	Легкий	Низко Создает нелинейные контуры между классами (эллипс, парабола или гипербола).

Логистическая регрессия

Если у вас есть 2 класса, логистическая регрессия является популярным простым алгоритмом классификации, чтобы попробовать, потому что легко интерпретировать. Классификатор моделирует вероятности класса как функцию линейной комбинации предикторов.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Логистическая регрессия	Быстро	Носитель	Легкий	Низко Вы не можете изменить параметры в гибкость модели управления.

Логистическая регрессия в Classification Learner использует fitglm функция. Вы не можете установить опции для этого классификатора в приложении.

Машины опорных векторов

В Classification Learner можно обучить SVMs, когда данные имеют два или больше класса.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Линейный SVM	Двоичный файл: быстро Мультикласс: носитель	Носитель	Легкий	Низко Делает простое линейное разделение между классами.
Квадратичный SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель
Кубический SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель
Прекрасный гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Высоко — уменьшается с установкой шкалы ядра. Делает точно подробные различия между классами, с набором шкалы ядра к sqrt(P)/4.
Средний гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Носитель Средние различия, с ядром масштабируют набор к sqrt(P).
Крупный гауссов SVM	Двоичный файл: быстро Мультикласс: медленный	Двоичный файл: носитель Мультикласс: большой	Трудно	Низко Делает крупные различия между классами, с набором шкалы ядра к sqrt(P)*4, где P является количеством предикторов.

SVM классифицирует данные путем нахождения лучшей гиперплоскости, которая разделяет точки данных одного класса от тех из другого класса. Лучшая гиперплоскость для SVM означает тот с самым большим полем между этими двумя классами. Поле означает максимальную ширину плиты, параллельной гиперплоскости, которая не имеет никаких внутренних точек данных.

support vectors является точками данных, которые являются самыми близкими к отделяющейся гиперплоскости; эти точки находятся на контуре плиты. Следующая фигура иллюстрирует эти определения, с + указание на точки данных типа 1, и – указание на точки данных типа-1.

SVMs может также использовать мягкое поле, означая гиперплоскость, которая разделяет многих, но не все точки данных.

Для примера смотрите, Обучают Машины опорных векторов Используя Приложение Classification Learner.

Самые близкие соседние классификаторы

Самые близкие соседние классификаторы обычно имеют хорошую прогнозирующую точность в низких размерностях, но не может в высоких размерностях. Они имеют использование верхней памяти и не легки интерпретировать.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Прекрасный KNN	Носитель	Носитель	Трудно	Точно подробные различия между классами. Номер соседей определяется к 1.
Средний KNN	Носитель	Носитель	Трудно	Средние различия между классами. Номер соседей определяется к 10.
Крупный KNN	Носитель	Носитель	Трудно	Крупные различия между классами. Номер соседей определяется к 100.
Косинус KNN	Носитель	Носитель	Трудно	Средние различия между классами, с помощью метрики расстояния Косинуса. Номер соседей определяется к 10.
Кубический KNN	Медленный	Носитель	Трудно	Средние различия между классами, с помощью кубической метрики расстояния. Номер соседей определяется к 10.
Взвешенный KNN	Носитель	Носитель	Трудно	Средние различия между классами, с помощью веса расстояния. Номер соседей определяется к 10.

Что такое k - Самая близкая Соседняя классификация? Категоризация точек запроса на основе их расстояния до точек (или соседи) в обучающем наборе данных может быть простым все же эффективным способом классифицировать новые точки. Можно использовать различные метрики, чтобы определить расстояние. Учитывая набор X точек n и функции расстояния, k - самый близкий сосед (k NN) поиск позволяет вам найти k самыми близкими точками в X к точке запроса или набору точек. k основанные на NN алгоритмы широко используется в качестве правил машинного обучения сравнительного теста.

Для примера смотрите, Обучают Самые близкие Соседние Классификаторы Используя Приложение Classification Learner.

Классификаторы ансамбля

Комбинация классификаторов ансамбля следует из многих слабых учеников в одну высококачественную модель ансамбля. Качества зависят от выбора алгоритма.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Метод ансамбля	Гибкость модели
Повышенные деревья	Быстро	Низко	Трудно	AdaBoost, с Decision Tree ученики	Носитель к высокому — увеличивается с установкой Number of learners или Maximum number of splits. Совет Повышенные деревья могут обычно добиваться большего успеха, чем сложенный в мешок, но могут потребовать настройки параметра и большего количества учеников
Сложенные в мешок деревья	Носитель	Высоко	Трудно	Случайный лес Bag, с Decision Tree ученики	Высоко — увеличивается с установкой Number of learners. Совет Попробуйте этот классификатор сначала.
Дискриминант подпространства	Носитель	Низко	Трудно	Subspace, с Discriminant ученики	Носитель — увеличивается с установкой Number of learners. Хороший для многих предикторов
Подпространство KNN	Носитель	Носитель	Трудно	Subspace, с Nearest Neighbor ученики	Носитель — увеличивается с установкой Number of learners. Хороший для многих предикторов
Деревья RUSBoost	Быстро	Низко	Трудно	RUSBoost, с Decision Tree ученики	Носитель — увеличивается с установкой Number of learners или Maximum number of splits. Хороший для скошенных данных (со значительно большим количеством наблюдений за 1 классом)
GentleBoost или LogitBoost — не доступный в галерее Model Type. Если у вас есть 2 данных о классе, выберите вручную.	Быстро	Низко	Трудно	GentleBoost или LogitBoost, с Decision Tree ученики Выберите Boosted Trees и превратитесь в GentleBoost метод.	Носитель — увеличивается с установкой Number of learners или Maximum number of splits. Для бинарной классификации только

Сложенные в мешок деревья используют 'random forest' Бреимена алгоритм. Для ссылки смотрите Бреимена, L. Случайные Леса. Машинное обучение 45, стр 5–32, 2001.

Советы

Для примера смотрите, Обучают Классификаторы Ансамбля Используя Приложение Classification Learner.

Наивные классификаторы Байеса

Наивные классификаторы Байеса легко интерпретировать и полезный для классификации мультиклассов. Наивный алгоритм Бейеса усиливает теорему Бейеса и делает предположение, что предикторы условно независимы, учитывая класс. Используйте эти классификаторы, если это предположение независимости допустимо для предикторов в ваших данных. Однако алгоритм все еще, кажется, работает хорошо, когда предположение независимости не допустимо.

Для наивных классификаторов Байеса ядра можно управлять ядром более сглаженный тип с установкой Kernel Type и управлять ядром, сглаживающим поддержку плотности с установкой Support.

Тип классификатора	Скорость предсказания	Использование памяти	Interpretability	Гибкость модели
Гауссов наивный байесов	Носитель Медленный для высоко-размерных данных	Маленький Носитель для высоко-размерных данных	Легкий	Низко Вы не можете изменить параметры в гибкость модели управления.
Ядро, наивное байесов	Медленный	Носитель	Легкий	Носитель Можно изменить настройки для Kernel Type и Support, чтобы управлять как распределения предиктора моделей классификатора.

Наивный Байесов в Classification Learner использует fitcnb функция.