Этот пример использует набор данных «Mushroom» [3][4][5] [6][7] из архива машинного обучения UCI [7], описанного в http://archive.ics.uci.edu/ml/datasets/Mushroom. Набор данных включает 22 предиктора для 8124 наблюдений за различными грибами. Предикторы являются категориальными типами данных. Для примера прописной буквы форма классифицируется по функциям из 'b' для колоколообразной прописной буквы и 'c' для конических. Цвет грибов также классифицируется с функциями 'n' для коричневого и 'p' для розового. Набор данных также включает классификацию для каждого гриба съедобного или ядовитого.

Поскольку характеристики набора грибных данных категоричны, невозможно задать среднее значение нескольких точек данных, и поэтому широко используемый алгоритм кластеризации k-means не может быть значимо применен к этому набору данных. k-medoids является связанным алгоритмом, который разделяет данные на k отдельных кластеров, путем нахождения медоидов, которые минимизируют сумму различий между точками в данных и их ближайшим медоидом.

Медоид множества является представителем того множества, чья средняя неоднородность с другими представителями множества является наименьшей. Подобие может быть определено для многих типов данных, которые не позволяют вычислить среднее значение, позволяя использовать k -медоиды для более широкой области значений задач, чем k -месы.

Используя k -медоиды, этот пример группирует грибы в две группы на основе предоставленных предикторов. Затем исследуются отношения между этими кластерами и классификациями грибов как съедобных или ядовитых.

Этот пример предполагает, что вы загрузили набор данных «Mushroom» [3][4][5] [6][7] из базы данных UCI (http://archive.ics.uci.edu/ml/machine-learning-databases/mushroom/) и сохранили его в текущей директории как текстовый файл с именем agaricus-lepiota.txt. Заголовков столбцов в данных нет, поэтому readtable использует имена переменных по умолчанию.

clear all
data = readtable('agaricus-lepiota.txt','ReadVariableNames',false);

Отобразите первые 5 грибов с их первыми несколькими функциями.

data(1:5,1:10)

ans = 

    Var1    Var2    Var3    Var4    Var5    Var6    Var7    Var8    Var9    Var10
    ____    ____    ____    ____    ____    ____    ____    ____    ____    _____

    'p'     'x'     's'     'n'     't'     'p'     'f'     'c'     'n'     'k'  
    'e'     'x'     's'     'y'     't'     'a'     'f'     'c'     'b'     'k'  
    'e'     'b'     's'     'w'     't'     'l'     'f'     'c'     'b'     'n'  
    'p'     'x'     'y'     'w'     't'     'p'     'f'     'c'     'n'     'n'  
    'e'     'x'     's'     'g'     'f'     'n'     'f'     'w'     'b'     'k'

Извлеките первый столбец, маркированные данные для съедобных и ядовитых групп. Затем удалите столбец.

labels = data(:,1);
labels = categorical(labels{:,:});
data(:,1) = [];

Сохраните имена предикторов ( функций), которые описаны в http://archive.ics.uci.edu/ml/machine-learning-databases/mushroom/agaricus-lepiota.names.

VarNames = {'cap_shape' 'cap_surface' 'cap_color' 'bruises' 'odor' ...
    'gill_attachment' 'gill_spacing' 'gill_size' 'gill_color' ...
    'stalk_shape' 'stalk_root' 'stalk_surface_above_ring' ...
    'stalk_surface_below_ring' 'stalk_color_above_ring' ...
    'stalk_color_below_ring' 'veil_type' 'veil_color' 'ring_number' ....
    'ring_type' 'spore_print_color' 'population' 'habitat'};

Установите имена переменных.

data.Properties.VariableNames = VarNames;

Существует в общей сложности 2480 отсутствующих значений, обозначенных как '?'.

sum(char(data{:,:}) == '?')

ans =

        2480

На основе проверки набора данных и его описания отсутствующие значения относятся только к 11-й переменной (stalk_root). Удалите столбец из таблицы.

data(:,11) = [];

kmedoids принимает только числовые данные. Вы должны привести категории, которые у вас есть в числовой тип. Функция расстояния, которую вы будете использовать, чтобы задать неоднородность данных, будет основана на двойном представлении категориальных данных.

cats = categorical(data{:,:});
data = double(cats);

kmedoids может использовать любую метрику расстояния, поддерживаемую pdist2, для кластера. В этом примере вы будете группировать данные, используя Расстояние Хемминга, потому что это подходящая метрика расстояния для категориальных данных, как показано ниже. Расстояние Хемминга между двумя векторами является процентом от векторных компонентов, которые различаются. Для образца рассмотрим эти два вектора.

v1 = [1 0 2 1];

v2 = [1 1 2 1];

Они равны в 1-й, 3-й и 4-й координатах. Поскольку 1 из 4 координат различаются, расстояние Хемминга между этими двумя векторами составляет 25.

Вы можете использовать функцию pdist2 для измерения расстояния Хемминга между первой и второй строками данных, численного представления категориальных грибных данных. Значение .2857 означает, что 6 из 21 функций гриба отличаются.

pdist2(data(1,:),data(2,:),'hamming')

ans =

    0.2857

В этом примере вы кластеризуете данные о грибах в два кластера на основе функций, чтобы увидеть, соответствует ли кластеризация съедобности. kmedoids функция гарантированно сходится к локальным минимумам критерия кластеризации; однако это может быть не глобальный минимум для задачи. Рекомендуется несколько раз кластеризировать проблему с помощью 'replicates' параметр. Когда 'replicates' задано значение, n, больше 1, алгоритм k-medoids запускается n раз, и возвращается лучший результат.

Бежать kmedoids чтобы объединить данные в 2 кластера на основе расстояния Хемминга и вернуть лучший результат из 3 повторений, запустите следующее.

rng('default'); % For reproducibility
[IDX, C, SUMD, D, MIDX, INFO] = kmedoids(data,2,'distance','hamming','replicates',3);

Предположим, что грибы в предсказанной группе 1 ядовиты, а группа 2 съедобны. Чтобы определить эффективность результатов кластеризации, вычислите, сколько грибов в группе 1 действительно ядовиты, а группа 2 съедобна на основе известных меток. Другими словами, вычислите количество ложных положительных сторон, ложных отрицательных сторон, а также истинных положительных сторон и истинных отрицательных сторон.

Создайте матрицу неточностей (или совпадающую матрицу), где диагональные элементы представляют количество истинных срабатываний и истинных срабатываний, соответственно. Off-диагональные элементы представляют ложные срабатывания и ложные срабатывания, соответственно. Для удобства используйте confusionmat функция, которая вычисляет матрицу неточностей, заданную известные метки и предсказанные метки. Получите информацию о предсказанной метке от IDX переменная. IDX содержит значения 1 и 2 для каждой точки данных, представляющие ядовитые и съедобные группы, соответственно.

predLabels = labels; % Initialize a vector for predicted labels.
predLabels(IDX==1) = categorical({'p'}); % Assign group 1 to be poisonous.
predLabels(IDX==2) = categorical({'e'}); % Assign group 2 to be edible.
confMatrix = confusionmat(labels,predLabels)

confMatrix =

        4176          32
         816        3100

Из 4208 съедобных грибов было правильно предсказано, что 4176 находятся в группе 2 (съедобная группа), а 32 - в группе 1 (ядовитая группа). Точно так же из 3916 ядовитых грибов 3100 правильно предсказали в группе 1 (ядовитая группа) и 816 неправильно предсказали в группе 2 (съедобная группа).

Учитывая эту матрицу неточностей, вычислите точность, которая является долей истинных результатов (как истинных срабатываний, так и истинных срабатываний) против общих данных и точность, которая является долей истинных срабатываний против всех положительных результатов (истинных срабатываний и ложных срабатываний).

accuracy = (confMatrix(1,1)+confMatrix(2,2))/(sum(sum(confMatrix)))

accuracy =

    0.8956

precision = confMatrix(1,1) / (confMatrix(1,1)+confMatrix(2,1))

precision =

    0.8365

Результаты показали, что применение алгоритма k-medoids к категориальным функциям грибов привело к кластерам, которые были связаны с съедобностью.