ClassificationTree class

Суперклассы: CompactClassificationTree

Дерево выбора из двух альтернатив для классификации мультиклассов

расширьте все на странице

Описание

ClassificationTree объект представляет дерево решений бинарными разделениями для классификации. Объект этого класса может предсказать ответы для новых данных с помощью predict метод. Объект содержит данные, используемые для обучения, таким образом, это может также вычислить предсказания перезамены.

Конструкция

Создайте ClassificationTree объект при помощи fitctree.

Свойства

BinEdges

Границы интервала для числовых предикторов в виде массива ячеек p числовые векторы, где p является количеством предикторов. Каждый вектор включает границы интервала для числового предиктора. Элемент в массиве ячеек для категориального предиктора пуст, потому что программное обеспечение не делает интервала категориальные предикторы.

Числовые предикторы интервалов программного обеспечения, только если вы задаете 'NumBins' аргумент значения имени как положительный целочисленный скаляр, когда обучение модель с древовидными учениками. BinEdges свойство пусто если 'NumBins' значение пусто (значение по умолчанию).

Можно воспроизвести сгруппированные данные о предикторе Xbinned при помощи BinEdges свойство обученной модели mdl.

X = mdl.X; % Predictor data
Xbinned = zeros(size(X));
edges = mdl.BinEdges;
% Find indices of binned predictors.
idxNumeric = find(~cellfun(@isempty,edges));
if iscolumn(idxNumeric)
    idxNumeric = idxNumeric';
end
for j = idxNumeric 
    x = X(:,j);
    % Convert x to array if x is a table.
    if istable(x) 
        x = table2array(x);
    end
    % Group x into bins by using the discretize function.
    xbinned = discretize(x,[-inf; edges{j}; inf]); 
    Xbinned(:,j) = xbinned;
end
Xbinned содержит индексы интервала, в пределах от 1 к количеству интервалов, для числовых предикторов. Xbinned значения 0 для категориальных предикторов. Если X содержит NaNs, затем соответствующий Xbinned значениями является NaNs.

CategoricalPredictors

Категориальные индексы предиктора в виде вектора из положительных целых чисел. CategoricalPredictors содержит значения индекса, указывающие, что соответствующие предикторы являются категориальными. Значения индекса между 1 и p, где p количество предикторов, используемых, чтобы обучить модель. Если ни один из предикторов не является категориальным, то это свойство пусто ([]).

CategoricalSplit

n-by-2 массив ячеек, где n количество категориальных разделений в tree. Каждая строка в CategoricalSplit дает левые и правые значения для категориального разделения. Для каждого узла ветви с категориальным разделением j на основе категориального переменного предиктора z, покинутый дочерний элемент выбран если z находится в CategoricalSplit(j,1) и правильный дочерний элемент выбран если z находится в CategoricalSplit(j,2). Разделения находятся в том же порядке как узлы дерева. Узлы для этих разделений могут быть найдены путем выполнения cuttype и выбор 'categorical' сокращения сверху донизу.

Children

n-by-2 массив, содержащий количества дочерних узлов для каждого узла в tree, где n является количеством узлов. Вершины имеют дочерний узел 0.

ClassCount

n-by-k массив класса значит узлы в tree, где n является количеством узлов, и k является количеством классов. Для любого номера узла i, класс считает ClassCount(i,:) количества наблюдений (из данных, используемых в подборе кривой дереву) от каждого класса, удовлетворяющего условиям для узла i.

ClassNames

Список элементов в Y с удаленными копиями. ClassNames может быть категориальный массив, массив ячеек из символьных векторов, символьный массив, логический вектор или числовой вектор. ClassNames имеет совпадающий тип данных как данные в аргументе Y. (Программное обеспечение обрабатывает строковые массивы как массивы ячеек из символьных векторов.)

ClassProbability

n-by-k массив вероятностей класса для узлов в tree, где n является количеством узлов, и k является количеством классов. Для любого номера узла i, вероятности класса ClassProbability(i,:) предполагаемые вероятности для каждого класса для точки, удовлетворяющей условиям для узла i.

Cost

Квадратная матрица, где Cost(i,j) стоимость классификации точки в класс j если его истинным классом является i (строки соответствуют истинному классу, и столбцы соответствуют предсказанному классу). Порядок строк и столбцов Cost соответствует порядку классов в ClassNames. Количество строк и столбцов в Cost количество уникальных классов в ответе. Это свойство доступно только для чтения.

CutCategories

n-by-2 массив ячеек категорий используется при ветвях в tree, где n является количеством узлов. Для каждого узла ветви i на основе категориального переменного предиктора X, покинутый дочерний элемент выбран если X среди категорий, перечисленных в CutCategories{i,1}, и правильный дочерний элемент выбран если X среди перечисленных в CutCategories{i,2}. Оба столбца CutCategories пусты для узлов ветви на основе непрерывных предикторов и для вершин.

CutPoint содержит точки разделения для 'continuous' сокращения и CutCategories содержит набор категорий.

CutPoint

n - вектор элемента из значений, используемых в качестве точек разделения в tree, где n является количеством узлов. Для каждого узла ветви i на основе непрерывного переменного предиктора X, покинутый дочерний элемент выбран если X<CutPoint(i) и правильный дочерний элемент выбран если X>=CutPoint(i). CutPoint isnan для узлов ветви на основе категориальных предикторов и для вершин.

CutPoint содержит точки разделения для 'continuous' сокращения и CutCategories содержит набор категорий.

CutType

n - массив ячеек элемента, указывающий на тип сокращения в каждом узле в tree, где n является количеством узлов. Для каждого узла i, CutType{i} :

  • 'continuous' — Если сокращение задано в форме X < v для переменной X и точка разделения v.

  • 'categorical' — Если сокращение задано ли переменная X принимает значение в наборе категорий.

  • '' — Если i вершина.

CutPoint содержит точки разделения для 'continuous' сокращения и CutCategories содержит набор категорий.

CutPredictor

n - массив ячеек элемента имен переменных используется для ответвления в каждом узле в tree, где n является количеством узлов. Эти переменные иногда известны как переменные сокращения. Для вершин, CutPredictor содержит пустой символьный вектор.

CutPoint содержит точки разделения для 'continuous' сокращения и CutCategories содержит набор категорий.

CutPredictorIndex

n - массив элемента числовых индексов для переменных используется для ответвления в каждом узле в tree, где n является количеством узлов. Для получения дополнительной информации смотрите CutPredictor.

ExpandedPredictorNames

Расширенные имена предиктора, сохраненные как массив ячеек из символьных векторов.

Если кодирование использования модели для категориальных переменных, то ExpandedPredictorNames включает имена, которые описывают расширенные переменные. В противном случае, ExpandedPredictorNames совпадает с PredictorNames.

HyperparameterOptimizationResults

Описание оптимизации перекрестной проверки гиперпараметров, сохраненных как BayesianOptimization возразите или таблица гиперпараметров и присваиваемых значений. Непустой, когда OptimizeHyperparameters пара "имя-значение" непуста при создании. Значение зависит от установки HyperparameterOptimizationOptions пара "имя-значение" при создании:

  • 'bayesopt' (значение по умолчанию) — Объект класса BayesianOptimization

  • 'gridsearch' или 'randomsearch' — Таблица гиперпараметров используемые, наблюдаемые значения целевой функции (потеря перекрестной проверки), и ранг наблюдений от самого низкого (лучше всего) к (худшему) самому высокому

IsBranchNode

n - элемент логический вектор, который является true для каждого узла ветви и false для каждой вершины tree.

ModelParameters

Параметры используются в учебном tree. Чтобы отобразить все значения параметров, введите tree.ModelParameters. Чтобы получить доступ к конкретному параметру, используйте запись через точку.

NumObservations

Количество наблюдений в обучающих данных, числовом скаляре. NumObservations может быть меньше количества строк входных данных X когда существуют отсутствующие значения в X или ответ Y.

NodeClass

n - массив ячеек элемента с именами самых вероятных классов в каждом узле tree, где n является количеством узлов в дереве. Каждым элементом этого массива является вектор символов, равный одним из имен классов в ClassNames.

NodeError

n - вектор элемента из ошибок узлов в tree, где n является количеством узлов. NodeError(i) misclassification вероятность для узла i.

NodeProbability

n - вектор элемента из вероятностей узлов в tree, где n является количеством узлов. Вероятность узла вычисляется как пропорция наблюдений из исходных данных, которые удовлетворяют условиям для узла. Эта пропорция настроена для любых априорных вероятностей, определенных каждому классу.

NodeRisk

n - вектор элемента из риска узлов в дереве, где n является количеством узлов. Риск для каждого узла является мерой примеси (индекс Gini или отклонение) для этого узла, взвешенного вероятностью узла. Если дерево выращено twoing, риск для каждого узла является нулем.

NodeSize

n - вектор элемента из размеров узлов в tree, где n является количеством узлов. Размер узла задан как количество наблюдений из данных, используемых, чтобы создать дерево, которые удовлетворяют условиям для узла.

NumNodes

Количество узлов в tree.

Parent

n - вектор элемента, содержащий количество родительского узла для каждого узла в tree, где n является количеством узлов. Родительским элементом корневого узла является 0.

PredictorNames

Массив ячеек из символьных векторов, содержащий имена предиктора, в порядке, который они появляются в X.

Prior

Числовой вектор из априорных вероятностей для каждого класса. Порядок элементов Prior соответствует порядку классов в ClassNames. Число элементов Prior количество уникальных классов в ответе. Это свойство доступно только для чтения.

PruneAlpha

Числовой вектор с одним элементом на сокращение уровня. Если уровень сокращения лежит в диапазоне от 0 до M, то PruneAlpha имеет M + 1 элемент, отсортированный в порядке возрастания. PruneAlpha(1) для сокращения уровня 0 (никакое сокращение), PruneAlpha(2) для сокращения уровня 1, и так далее.

PruneList

n - элемент числовой вектор с уровнями сокращения в каждом узле tree, где n является количеством узлов. Уровни сокращения лежат в диапазоне от 0 (никакое сокращение) к M, где M является расстоянием между самым глубоким листом и корневым узлом.

ResponseName

Вектор символов, который задает имя переменной отклика (Y).

RowsUsed

n - элемент логический вектор, указывающий, который строки исходных данных о предикторе (X) использовались в подборе кривой. Если программное обеспечение использует все строки X, затем RowsUsed пустой массив ([]).

ScoreTransform

Указатель на функцию для преобразования предсказанных классификационных оценок или вектора символов, представляющего встроенную функцию преобразования.

none средние значения никакое преобразование или @(x)x.

Чтобы изменить преобразование счета функционируют к, например, function, используйте запись через точку.

  • Для доступных функций (см. fitctree), войдите

    Mdl.ScoreTransform = 'function';

  • Можно установить указатель на функцию для доступной функции или функции, которую вы задаете сами путем ввода

    tree.ScoreTransform = @function;

SurrogateCutCategories

n - массив ячеек элемента категорий используется для суррогатных разделений в tree, где n является количеством узлов в tree. Для каждого узла k, SurrogateCutCategories{k} массив ячеек. Длина SurrogateCutCategories{k} равно количеству суррогатных предикторов, найденных в этом узле. Каждый элемент SurrogateCutCategories{k} или пустой символьный вектор для непрерывного суррогатного предиктора или двухэлементный массив ячеек с категориями для категориального суррогатного предиктора. Первый элемент этого двухэлементного массива ячеек перечисляет категории, присвоенные покинутому дочернему элементу этим суррогатным разделением, и второй элемент этого двухэлементного массива ячеек перечисляет категории, присвоенные правильному дочернему элементу этим суррогатным разделением. Порядок суррогатных переменных разделения в каждом узле является соответствующим к порядку переменных в SurrogateCutPredictor. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogateCutCategories содержит пустую ячейку.

SurrogateCutFlip

n - массив ячеек элемента числовых присвоений сокращения используется для суррогатных разделений в tree, где n является количеством узлов в tree. Для каждого узла k, SurrogateCutFlip{k} числовой вектор. Длина SurrogateCutFlip{k} равно количеству суррогатных предикторов, найденных в этом узле. Каждый элемент SurrogateCutFlip{k} или нуль для категориального суррогатного предиктора или числовое присвоение сокращения для непрерывного суррогатного предиктора. Числовое присвоение сокращения может быть или –1 или +1. Для каждого суррогатного разделения с числовым сокращением C на основе непрерывного переменного предиктора Z выбран покинутый дочерний элемент, если Z <C и присвоение сокращения для этого суррогатного разделения +1, или если Z ≥C и присвоение сокращения для этого суррогатного разделения –1. Точно так же правильный дочерний элемент выбран, если Z ≥C и присвоение сокращения для этого суррогатного разделения +1, или если Z <C и присвоение сокращения для этого суррогатного разделения –1. Порядок суррогатных переменных разделения в каждом узле является соответствующим к порядку переменных в SurrogateCutPredictor. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogateCutFlip содержит пустой массив.

SurrogateCutPoint

n - массив ячеек элемента числовых значений используется для суррогатных разделений в tree, где n является количеством узлов в tree. Для каждого узла k, SurrogateCutPoint{k} числовой вектор. Длина SurrogateCutPoint{k} равно количеству суррогатных предикторов, найденных в этом узле. Каждый элемент SurrogateCutPoint{k} любой NaN для категориального суррогатного предиктора или числового сокращения для непрерывного суррогатного предиктора. Для каждого суррогатного разделения с числовым сокращением C на основе непрерывного переменного предиктора Z покинутый дочерний элемент выбран если Z <C и SurrogateCutFlip поскольку это суррогатное разделение +1, или если Z ≥C и SurrogateCutFlip поскольку это суррогатное разделение –1. Точно так же правильный дочерний элемент выбран если Z ≥C и SurrogateCutFlip поскольку это суррогатное разделение +1, или если Z <C и SurrogateCutFlip поскольку это суррогатное разделение –1. Порядок суррогатных переменных разделения в каждом узле является соответствующим к порядку переменных, возвращенных SurrogateCutPredictor. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogateCutPoint содержит пустую ячейку.

SurrogateCutType

n - типы указания массива ячеек элемента суррогатных разделений в каждом узле в tree, где n является количеством узлов в tree. Для каждого узла k, SurrogateCutType{k} массив ячеек с типами суррогатных переменных разделения в этом узле. Переменные сортируются по прогнозирующей мере связи с оптимальным предиктором в порядке убывания, и только переменные с положительной прогнозирующей мерой включены. Порядок суррогатных переменных разделения в каждом узле является соответствующим к порядку переменных в SurrogateCutPredictor. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogateCutType содержит пустую ячейку. Суррогатным типом разделения может быть любой 'continuous' если сокращение задано в форме Z<V для переменной Z и точка разделения V или 'categorical' если сокращение задано ли Z принимает значение в наборе категорий.

SurrogateCutPredictor

n - массив ячеек элемента имен переменных используется для суррогатных разделений в каждом узле в tree, где n является количеством узлов в tree. Каждый элемент SurrogateCutPredictor массив ячеек с именами суррогатных переменных разделения в этом узле. Переменные сортируются по прогнозирующей мере связи с оптимальным предиктором в порядке убывания, и только переменные с положительной прогнозирующей мерой включены. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogateCutPredictor содержит пустую ячейку.

SurrogatePredictorAssociation

n - массив ячеек элемента прогнозирующих мер ассоциации для суррогатных разделений в tree, где n является количеством узлов в tree. Для каждого узла k, SurrogatePredictorAssociation{k} числовой вектор. Длина SurrogatePredictorAssociation{k} равно количеству суррогатных предикторов, найденных в этом узле. Каждый элемент SurrogatePredictorAssociation{k} дает прогнозирующую меру ассоциации между оптимальным разделением и этим суррогатным разделением. Порядок суррогатных переменных разделения в каждом узле является порядком переменных в SurrogateCutPredictor. Переменная оптимального разделения в этом узле не появляется. Для неветви (лист) узлы, SurrogatePredictorAssociation содержит пустую ячейку.

W

Масштабированный weights, вектор с длиной n, количество строк в X.

X

Матрица A или таблица значений предиктора. Каждый столбец X представляет одну переменную, и каждая строка представляет одно наблюдение.

Y

Категориальный массив, массив ячеек из символьных векторов, символьный массив, логический вектор или числовой вектор. Каждая строка Y представляет классификацию соответствующей строки X.

Функции объекта

compactКомпактное дерево
compareHoldoutСравните точность двух моделей классификации с помощью новых данных
crossvalПерекрестное подтвержденное дерево решений
cvlossОшибка классификации перекрестной проверкой
edgeРебро классификации
gatherСоберите свойства объекта Statistics and Machine Learning Toolbox от графического процессора
limeЛокальные поддающиеся толкованию объяснения модели агностические (LIME)
lossОшибка классификации
marginПоля классификации
partialDependenceВычислите частичную зависимость
plotPartialDependenceСоздайте графики отдельного условного ожидания (ICE) и частичный график зависимости (PDP)
predictПредскажите метки с помощью дерева классификации
predictorImportanceОценки важности предиктора для дерева классификации
pruneПроизведите последовательность поддеревьев классификации путем сокращения
resubEdgeРебро классификации перезаменой
resubLossОшибка классификации перезаменой
resubMarginПоля классификации перезаменой
resubPredictПредскажите метки перезамены дерева классификации
shapleyШепли оценивает
surrogateAssociationОзначайте прогнозирующую меру ассоциации для суррогатных разделений в дереве классификации
testckfoldСравните точность двух моделей классификации повторной перекрестной проверкой
viewПросмотрите дерево классификации

Примеры

свернуть все

Скрипт Open Live Script

Вырастите дерево классификации использование ionosphere набор данных.

load ionosphere
tc = fitctree(X,Y)
tc = 
  ClassificationTree
             ResponseName: 'Y'
    CategoricalPredictors: []
               ClassNames: {'b'  'g'}
           ScoreTransform: 'none'
          NumObservations: 351


  Properties, Methods
Скрипт Open Live Script

Можно управлять глубиной деревьев с помощью MaxNumSplits, MinLeafSize, или MinParentSize параметры пары "имя-значение". fitctree выращивает глубокие деревья решений по умолчанию. Можно вырастить более мелкие деревья, чтобы уменьшать сложность модели или время вычисления.

Загрузите ionosphere набор данных.

load ionosphere

Значения по умолчанию древовидных контроллеров глубины для роста деревьев классификации:

  • n - 1 для MaxNumSplitsN размер обучающей выборки.

  • 1 для MinLeafSize.

  • 10 для MinParentSize.

Эти значения по умолчанию имеют тенденцию выращивать глубокие деревья для больших размеров обучающей выборки.

Обучите дерево классификации использование значений по умолчанию для древовидного управления глубиной. Перекрестный подтвердите модель при помощи 10-кратной перекрестной проверки.

rng(1); % For reproducibility
MdlDefault = fitctree(X,Y,'CrossVal','on');

Чертите гистограмму количества наложенных разделений на деревьях. Кроме того, просмотрите одно из деревьев.

numBranches = @(x)sum(x.IsBranch);
mdlDefaultNumSplits = cellfun(numBranches, MdlDefault.Trained);

figure;
histogram(mdlDefaultNumSplits)

Figure contains an axes object. The axes object contains an object of type histogram.

view(MdlDefault.Trained{1},'Mode','graph')

Figure Classification tree viewer contains an axes object and other objects of type uimenu, uicontrol. The axes object contains 51 objects of type line, text.

Среднее количество разделений - приблизительно 15.

Предположим, что вы хотите дерево классификации, которое не является столь комплексное (глубокий), как те обучили использование количества по умолчанию разделений. Обучите другое дерево классификации, но определите максимальный номер разделений в 7, который является приблизительно половиной среднего количества разделений от дерева классификации по умолчанию. Перекрестный подтвердите модель при помощи 10-кратной перекрестной проверки.

Mdl7 = fitctree(X,Y,'MaxNumSplits',7,'CrossVal','on');
view(Mdl7.Trained{1},'Mode','graph')

Figure Classification tree viewer contains an axes object and other objects of type uimenu, uicontrol. The axes object contains 21 objects of type line, text.

Сравните ошибки классификации перекрестных проверок моделей.

classErrorDefault = kfoldLoss(MdlDefault)
classErrorDefault = 0.1168

classError7 = kfoldLoss(Mdl7)
classError7 = 0.1311

Mdl7 является намного менее комплексным и выполняет незначительно хуже, чем MdlDefault.

Больше о

развернуть все

Ссылки

[1] Бреимен, L., Дж. Фридман, Р. Олшен и К. Стоун. Классификация и деревья регрессии. Бока-Ратон, FL: нажатие CRC, 1984.

Расширенные возможности

Смотрите также

| | | | |

Темы

Введенный в R2011a

Документация Statistics and Machine Learning Toolbox

Поддержка

Для просмотра документации необходимо авторизоваться на сайте