Exponenta Banner

ClassificationKNN

k- соседняя классификация

расширьте все на странице

Описание

ClassificationKNN модель классификации ближайшего соседа, в которой можно изменить и метрику расстояния и количество самых близких соседей. Поскольку ClassificationKNN классификатор хранит обучающие данные, можно использовать модель, чтобы вычислить прогнозы перезамены. В качестве альтернативы используйте модель, чтобы классифицировать новые наблюдения с помощью predict метод.

Создание

Создайте ClassificationKNN модель с помощью fitcknn.

Свойства

развернуть все

Свойства KNN

Повреждающий связь алгоритм используется predict когда несколько классов имеют ту же самую маленькую стоимость, заданную как одно из следующего:

  • 'smallest' — Используйте самый маленький индекс среди связанных групп.

  • 'nearest' — Используйте класс с самым близким соседом среди связанных групп.

  • 'random' — Используйте случайное дополнительное время среди связанных групп.

По умолчанию связи происходят, когда несколько классов имеют то же количество самых близких точек среди k самые близкие соседи. BreakTies применяется когда IncludeTies false.

Измените BreakTies использование записи через точку: mdl.BreakTies = newBreakTies.

Метрика расстояния, заданная как вектор символов или указатель на функцию. Позволенные значения зависят от NSMethod свойство.

NSMethodПозволенная метрика расстояния
'exhaustive'Любая метрика расстояния ExhaustiveSearcher
'kdtree''cityblock', 'chebychev', 'euclidean', или 'minkowski'

В следующей таблице перечислены ExhaustiveSearcher метрики расстояния.

ЗначениеОписание
'cityblock'Расстояние городского квартала.
'chebychev'Расстояние Чебычева (максимум координируют различие).
'correlation'Один минус демонстрационная линейная корреляция между наблюдениями (обработанный как последовательности значений).
'cosine'Один минус косинус включенного угла между наблюдениями (обработанный как векторы).
'euclidean'Евклидово расстояние.
'hamming'Расстояние Хемминга, процент координат, которые отличаются.
'jaccard'Один минус коэффициент Jaccard, процент ненулевых координат, которые отличаются.
'mahalanobis'Расстояние Mahalanobis, вычисленное использование положительной определенной ковариационной матрицы C. Значение по умолчанию C матрица выборочной ковариации X, как вычислено nancov(X). Задавать различное значение для C, установите DistParameter свойство mdl использование записи через точку.
'minkowski'Расстояние Минковскего. Экспонентой по умолчанию является 2. Чтобы задать различную экспоненту, установите DistParameter свойство mdl использование записи через точку.
'seuclidean'Стандартизированное Евклидово расстояние. Каждое координатное различие между X и точка запроса масштабируется, означая разделенный на значение шкалы S. Значение по умолчанию S стандартное отклонение, вычисленное из X,   S = nanstd(X). Задавать другое значение для S, установите DistParameter свойство mdl использование записи через точку.
'spearman'Один минус порядковая корреляция демонстрационного Копьеносца между наблюдениями (обработанный как последовательности значений).
@distfun

Указатель на функцию расстояния. distfun имеет форму

function D2 = distfun(ZI,ZJ)
% calculation of distance
...
где

  • ZI 1- N вектор, содержащий одну строку X или Y.

  • ZJ M2- N матрица, содержащая несколько строк X или Y.

  • D2 M2- 1 вектор расстояний и D2(k) расстояние между наблюдениями ZI и ZJ(k,:).

Для получения дополнительной информации смотрите Метрики Расстояния.

Измените Distance использование записи через точку: mdl.Distance = newDistance.

Если NSMethod 'kdtree', можно использовать запись через точку, чтобы изменить Distance только для метрик 'cityblock', 'chebychev', 'euclidean', и 'minkowski'.

Типы данных: char | function_handle

Функция взвешивания расстояния, заданная как одно из значений в этой таблице.

ЗначениеОписание
'equal'Никакое взвешивание
'inverse'Вес 1/дистанцировать
'squaredinverse'Вес является 1/distance2
@fcn fcn функция, которая принимает матрицу неотрицательных расстояний и возвращает матрицу, одного размера содержащий неотрицательные веса расстояния. Например, 'squaredinverse' эквивалентно @(d)d.^(–2).

Измените DistanceWeight использование записи через точку: mdl.DistanceWeight = newDistanceWeight.

Типы данных: char | function_handle

Параметр для метрики расстояния, заданной как одно из значений, описан в этой таблице.

Метрика расстоянияПараметр
'mahalanobis'Положительная определенная ковариационная матрица C
'minkowski'Экспонента расстояния Минковскего, положительная скалярная величина
'seuclidean'Вектор положительных значений шкалы с длиной равняется количеству столбцов X

Для любой другой метрики расстояния, значения DistParameter должен быть [].

Можно изменить DistParameter использование записи через точку: mdl.DistParameter = newDistParameter. Однако, если Distance 'mahalanobis' или 'seuclidean', затем вы не можете изменить DistParameter.

Типы данных: single | double

Свяжите флаг включения, указывающий ли predict включает всех соседей, значения расстояния которых равны k th наименьшее расстояние, заданное как false или true. Если IncludeTies true, predict включает всех этих соседей. В противном случае, predict использование точно соседи k (см. BreakTies свойство.

Измените IncludeTies использование записи через точку: mdl.IncludeTies = newIncludeTies.

Типы данных: логический

Это свойство доступно только для чтения.

Самый близкий соседний метод поиска, заданный как любой 'kdtree' или 'exhaustive'.

  • 'kdtree' — Создает и использует Kd-дерево, чтобы найти самых близких соседей.

  • 'exhaustive' — Использует алгоритм исчерпывающего поиска. При предсказании класса новой точки xnew, программное обеспечение вычисляет значения расстояния из всех точек в X к xnew найти самых близких соседей.

Значением по умолчанию является 'kdtree' когда X имеет 10 или меньше столбцов, X не разреженно, и метрикой расстояния является 'kdtree' ввод. В противном случае значением по умолчанию является 'exhaustive'.

Количество самых близких соседей в X используемый, чтобы классифицировать каждую точку во время прогноза, заданного как положительное целочисленное значение.

Измените NumNeighbors использование записи через точку: mdl.NumNeighbors = newNumNeighbors.

Типы данных: single | double

Другие свойства классификации

Это свойство доступно только для чтения.

Категориальные индексы предиктора, заданные как вектор положительных целых чисел. CategoricalPredictors содержит значения индекса, соответствующие столбцам данных о предикторе, которые содержат категориальные предикторы. Если ни один из предикторов не является категориальным, то это свойство пусто ([]).

Типы данных: double

Это свойство доступно только для чтения.

Имена классов в обучающих данных Y с копиями, удаленными, заданными как категориальное или символьный массив, логический или числовой вектор или массив ячеек из символьных векторов. ClassNames имеет совпадающий тип данных как Y. (Программное обеспечение обрабатывает строковые массивы как массивы ячеек из символьных векторов.)

Типы данных: categorical | char | logical | single | double | cell

Стоимость misclassification точки, заданной как квадратная матрица. Cost(i,j) стоимость классификации точки в класс j если его истинным классом является i (то есть, строки соответствуют истинному классу, и столбцы соответствуют предсказанному классу). Порядок строк и столбцов в Cost соответствует порядку классов в ClassNames. Количество строк и столбцов в Cost количество уникальных классов в ответе.

По умолчанию, Cost(i,j) = 1 если i ~= j, и Cost(i,j) = 0 если i = j. Другими словами, стоимостью является 0 для правильной классификации и 1 для неправильной классификации.

Измените Cost матрица с помощью записи через точку: mdl.Cost = costMatrix.

Типы данных: single | double

Это свойство доступно только для чтения.

Расширенные имена предиктора, заданные как массив ячеек из символьных векторов.

Если кодирование использования модели для категориальных переменных, то ExpandedPredictorNames включает имена, которые описывают расширенные переменные. В противном случае, ExpandedPredictorNames совпадает с PredictorNames.

Типы данных: cell

Это свойство доступно только для чтения.

Параметры использовали в обучении ClassificationKNN модель, заданная как структура.

Типы данных: struct

Это свойство доступно только для чтения.

Средние значения предиктора, заданные как числовой вектор длины numel(PredictorNames).

Если вы не стандартизируете mdl когда обучение модель с помощью fitcknn, затем Mu isempty).

Типы данных: single | double

Это свойство доступно только для чтения.

Количество наблюдений использовало в обучении ClassificationKNN модель, заданная как положительный целочисленный скаляр. Этот номер может быть меньше количества строк в обучающих данных потому что строки, содержащие NaN значения не являются частью подгонки.

Типы данных: double

Это свойство доступно только для чтения.

Имена переменного предиктора, заданные как массив ячеек из символьных векторов. Имена переменных находятся в том же порядке, в котором они появляются в обучающих данных X.

Типы данных: cell

Априорные вероятности для каждого класса, заданного как числовой вектор. Порядок элементов в Prior соответствует порядку классов в ClassNames.

Добавьте или измените Prior вектор с помощью записи через точку: mdl.Prior = priorVector.

Типы данных: single | double

Это свойство доступно только для чтения.

Имя переменной отклика, заданное как вектор символов.

Типы данных: char

Это свойство доступно только для чтения.

Строки исходных данных X используемый в подборе кривой ClassificationKNN модель, заданная как логический вектор. Это свойство пусто, если все строки используются.

Типы данных: логический

Выиграйте преобразование, заданное или как вектор символов или как указатель на функцию.

Эта таблица суммирует доступные векторы символов.

ЗначениеОписание
'doublelogit'1/(1 + e –2x)
'invlogit'журнал (x / (1 – x))
'ismax'Устанавливает счет к классу с самым большим счетом к 1, и устанавливает музыку ко всем другим классам к 0
'logit'1/(1 + e –x)
'none' или 'identity'x (никакое преобразование)
'sign'– 1 для x <0
0 для x = 0
1 для x> 0
'symmetric'2x – 1
'symmetricismax'Устанавливает счет к классу с самым большим счетом к 1, и устанавливает музыку ко всем другим классам к –1
'symmetriclogit'2/(1 + e –x) – 1

Для функции MATLAB® или функции вы задаете, используете ее указатель на функцию в счете, преобразовывают. Указатель на функцию должен принять матрицу (исходные баллы) и возвратить матрицу, одного размера (преобразованные баллы).

Измените ScoreTransform использование записи через точку: mdl.ScoreTransform = newScoreTransform.

Типы данных: char | function_handle

Это свойство доступно только для чтения.

Стандартные отклонения предиктора, заданные как числовой вектор длины numel(PredictorNames).

Если вы не стандартизируете переменные предикторы во время обучения, то Sigma isempty).

Типы данных: single | double

Это свойство доступно только для чтения.

Веса наблюдения, заданные как вектор неотрицательных значений с одинаковым числом строк как Y. Каждая запись в W задает относительную важность соответствующего наблюдения в Y.

Типы данных: single | double

Это свойство доступно только для чтения.

Нестандартизированные данные о предикторе, заданные как числовая матрица. Каждый столбец X представляет один предиктор (переменная), и каждая строка представляет одно наблюдение.

Типы данных: single | double

Это свойство доступно только для чтения.

Метки класса, заданные как категориальное или символьный массив, логический или числовой вектор или массив ячеек из символьных векторов. Каждое значение в Y наблюдаемая метка класса для соответствующей строки в X.

Y имеет совпадающий тип данных как данные в Y используемый в обучении модель. (Программное обеспечение обрабатывает строковые массивы как массивы ячеек из символьных векторов.)

Типы данных: single | double | logical | char | cell | categorical

Свойства гипероптимизации параметров управления

Это свойство доступно только для чтения.

Оптимизация перекрестной проверки гиперпараметров, заданных как BayesianOptimization возразите или таблица гиперпараметров и присваиваемых значений. Это свойство непусто когда 'OptimizeHyperparameters' аргумент пары "имя-значение" непуст, когда вы создаете модель с помощью fitcknn. Значение зависит от установки 'HyperparameterOptimizationOptions' аргумент пары "имя-значение", когда вы создаете модель:

  • 'bayesopt' (значение по умолчанию) — Объект класса BayesianOptimization

  • 'gridsearch' или 'randomsearch' — Таблица гиперпараметров используемые, наблюдаемые значения целевой функции (потеря перекрестной проверки), и ранг наблюдений от самого низкого (лучше всего) к (худшему) самому высокому

Функции объекта

compareHoldoutСравните точность двух моделей классификации с помощью новых данных
crossvalПерекрестный подтвержденный классификатор k - ближайших соседей
edgeРебро классификатора k - ближайших соседей
lossПотеря классификатора k - ближайших соседей
marginПоле классификатора k - ближайших соседей
predictПредскажите метки с помощью модели классификации k - ближайших соседей
resubEdgeРебро классификатора k - ближайших соседей перезаменой
resubLossПотеря классификатора k - ближайших соседей перезаменой
resubMarginПоле классификатора k - ближайших соседей перезаменой
resubPredictПредскажите метки перезамены классификатора k - ближайших соседей

Примеры

свернуть все

Скрипт Open Live Script

Обучите классификатор k - ближайших соседей ирисовым данным Фишера, где k, количество самых близких соседей в предикторах, равняется 5.

Загрузите ирисовые данные Фишера.

load fisheriris
X = meas;
Y = species;

X числовая матрица, которая содержит четыре лепестковых измерения для 150 ирисовых диафрагм. Y массив ячеек из символьных векторов, который содержит соответствующие ирисовые разновидности.

Обучите 5-самый близкий соседний классификатор. Стандартизируйте некатегориальные данные о предикторе.

Mdl = fitcknn(X,Y,'NumNeighbors',5,'Standardize',1)
Mdl = 
  ClassificationKNN
             ResponseName: 'Y'
    CategoricalPredictors: []
               ClassNames: {'setosa'  'versicolor'  'virginica'}
           ScoreTransform: 'none'
          NumObservations: 150
                 Distance: 'euclidean'
             NumNeighbors: 5


  Properties, Methods

Mdl обученный ClassificationKNN классификатор, и некоторые его свойства появляется в Командном окне.

Получить доступ к свойствам Mdl, используйте запись через точку.

Mdl.ClassNames
ans = 3x1 cell array
    {'setosa'    }
    {'versicolor'}
    {'virginica' }


Mdl.Prior
ans = 1×3

    0.3333    0.3333    0.3333

Mdl.Prior содержит априорные вероятности класса, которые можно задать использование 'Prior' аргумент пары "имя-значение" в fitcknn. Порядок априорных вероятностей класса соответствует порядку классов в Mdl.ClassNames. По умолчанию априорные вероятности являются соответствующими относительными частотами классов в данных.

Можно также сбросить априорные вероятности после обучения. Например, установите априорные вероятности на 0,5, 0.2, и 0.3, соответственно.

Mdl.Prior = [0.5 0.2 0.3];

Можно передать Mdl к predict пометить новые измерения или crossval перекрестный подтверждать классификатор.

Советы

  • compact функция уменьшает размер большинства моделей классификации путем удаления свойств обучающих данных и любых других свойств, которые не требуются, чтобы предсказывать метки новых наблюдений. Поскольку k - самые близкие соседние модели классификации требуют, чтобы все обучающие данные предсказали метки, вы не можете уменьшать размер ClassificationKNN модель.

Альтернативная функциональность

knnsearch находит k - самые близкие соседи точек. rangesearch находит все точки на фиксированном расстоянии. Можно использовать эти функции в классификации, как показано в Классифицируют Данные о Запросе. Если вы хотите выполнить классификацию, то использование ClassificationKNN модели могут быть более удобными, потому что можно обучить классификатор за один шаг (использующий fitcknn) и классифицируйте на другие шаги (использующий predict). В качестве альтернативы можно обучить k - самая близкая соседняя модель классификации использование одной из опций перекрестной проверки в вызове fitcknn. В этом случае, fitcknn возвращает ClassificationPartitionedModel перекрестный подтвержденный объект модели.

Расширенные возможности

Смотрите также

|

Темы

Представленный в R2012a

Документация Statistics and Machine Learning Toolbox
Поддержка