В этом примере используется набор данных «Грибы» [3][4][5] [6][7] из архива машинного обучения UCI [7], описанного в разделе http://archive.ics.uci.edu/ml/datasets/Mushroom. Набор данных включает 22 предиктора для 8124 наблюдений различных грибов. Предикторы являются категориальными типами данных. Например, форма колпачка классифицируется с элементами 'b' для колоколообразного колпачка и 'c' для конических. Грибной цвет также классифицируется с особенностями 'n' для коричневого, и 'p' для розового. Набор данных также включает классификацию для каждого гриба съедобного или ядовитого.

Поскольку особенности набора данных гриба категоричны, невозможно определить среднее из нескольких точек данных, и поэтому широко используемый алгоритм кластеризации k-means не может быть значимо применен к этому набору данных. k-medoids - это связанный алгоритм, который разбивает данные на k различных кластеров, путем нахождения медоидов, которые минимизируют сумму различий между точками в данных и их ближайшими медоидами.

Медоид множества является членом того множества, средняя несопоставимость которого с другими членами множества является наименьшей. Подобие может быть определено для многих типов данных, которые не позволяют вычислить среднее значение, позволяя использовать k-медоиды для более широкого диапазона проблем, чем k-средства.

Используя k-медоиды, этот пример объединяет грибы в две группы, основываясь на предоставленных предикторах. Затем исследуется взаимосвязь между этими кластерами и классификацией грибов как съедобных или ядовитых.

В этом примере предполагается, что набор данных «Грибы» был загружен [3][4][5] [6][7] из базы данных UCI (http://archive.ics.uci.edu/ml/machine-learning-databases/mushroom/) и сохранен в текущей папке в виде текстового файла с именем agaricus-lepiota.txt. В данных нет заголовков столбцов, поэтому readtable использует имена переменных по умолчанию.

clear all
data = readtable('agaricus-lepiota.txt','ReadVariableNames',false);

Отобразите первые 5 грибов с их первыми несколькими особенностями.

data(1:5,1:10)

ans = 

    Var1    Var2    Var3    Var4    Var5    Var6    Var7    Var8    Var9    Var10
    ____    ____    ____    ____    ____    ____    ____    ____    ____    _____

    'p'     'x'     's'     'n'     't'     'p'     'f'     'c'     'n'     'k'  
    'e'     'x'     's'     'y'     't'     'a'     'f'     'c'     'b'     'k'  
    'e'     'b'     's'     'w'     't'     'l'     'f'     'c'     'b'     'n'  
    'p'     'x'     'y'     'w'     't'     'p'     'f'     'c'     'n'     'n'  
    'e'     'x'     's'     'g'     'f'     'n'     'f'     'w'     'b'     'k'

Извлеките первую колонку, помеченные данные для съедобных и ядовитых групп. Затем удалите столбец.

labels = data(:,1);
labels = categorical(labels{:,:});
data(:,1) = [];

Хранить названия предикторов (признаков), которые описаны в http://archive.ics.uci.edu/ml/machine-learning-databases/mushroom/agaricus-lepiota.names.

VarNames = {'cap_shape' 'cap_surface' 'cap_color' 'bruises' 'odor' ...
    'gill_attachment' 'gill_spacing' 'gill_size' 'gill_color' ...
    'stalk_shape' 'stalk_root' 'stalk_surface_above_ring' ...
    'stalk_surface_below_ring' 'stalk_color_above_ring' ...
    'stalk_color_below_ring' 'veil_type' 'veil_color' 'ring_number' ....
    'ring_type' 'spore_print_color' 'population' 'habitat'};

Задайте имена переменных.

data.Properties.VariableNames = VarNames;

Имеется в общей сложности 2480 отсутствующих значений, обозначенных как '?'.

sum(char(data{:,:}) == '?')

ans =

        2480

На основании проверки набора данных и его описания отсутствующие значения принадлежат только 11-й переменной (stalk_root). Удалите столбец из таблицы.

data(:,11) = [];

kmedoids принимает только числовые данные. Необходимо преобразовать имеющиеся категории в числовые. Функция расстояния, используемая для определения разнородности данных, будет основана на двойном представлении категориальных данных.

cats = categorical(data{:,:});
data = double(cats);

kmedoids может использовать любую метрику расстояния, поддерживаемую pdist2 в кластере. В этом примере данные будут сгруппированы с использованием расстояния Хэмминга, поскольку это подходящий показатель расстояния для категориальных данных, как показано ниже. Расстояние Хэмминга между двумя векторами - это процент различных векторных компонентов. Например, рассмотрим эти два вектора.

v1 = [1 0 2 1];

v2 = [1 1 2 1];

Они равны в 1-й, 3-й и 4-й координатах. Поскольку 1 из 4 координат различаются, расстояние Хэмминга между этими двумя векторами равно .25.

Можно использовать функцию pdist2 для измерения расстояния Хэмминга между первой и второй строками данных числовое представление данных категориального гриба. Значение .2857 означает, что 6 из 21 признаков гриба различаются.

pdist2(data(1,:),data(2,:),'hamming')

ans =

    0.2857

В этом примере выполняется кластеризация данных грибов в два кластера на основе особенностей, чтобы увидеть, соответствует ли кластеризация съедобности. kmedoids функция гарантированно сходится к локальным минимумам критерия кластеризации; однако это, возможно, не является глобальным минимумом для этой проблемы. Это хорошая идея, чтобы сгруппировать проблему несколько раз, используя 'replicates' параметр. Когда 'replicates' установлено значение n, больше 1, алгоритм k-medoids выполняется n раз, и возвращается наилучший результат.

Бежать kmedoids чтобы сгруппировать данные в 2 кластера на основе расстояния Хэмминга и вернуть наилучший результат из 3 репликаций, выполните следующие действия.

rng('default'); % For reproducibility
[IDX, C, SUMD, D, MIDX, INFO] = kmedoids(data,2,'distance','hamming','replicates',3);

Предположим, что грибы в предсказанной группе 1 ядовиты, а группа 2 - съедобна. Чтобы определить эффективность результатов кластеризации, вычислите, сколько грибов в группе 1 действительно ядовиты, а группа 2 съедобна на основе известных меток. Другими словами, вычислить количество ложных срабатываний, ложных негативов, а также истинных срабатываний и истинных негативов.

Создайте матрицу путаницы (или совпадающую матрицу), где диагональные элементы представляют количество истинных положительных и истинных отрицательных значений соответственно. Внедиагональные элементы представляют ложноотрицательные и ложноположительные, соответственно. Для удобства используйте confusionmat функция, которая вычисляет матрицу путаницы, заданную известными метками и предсказанными метками. Получение прогнозируемой информации о метке из IDX переменная. IDX содержит значения 1 и 2 для каждой точки данных, представляющие ядовитую и съедобную группы соответственно.

predLabels = labels; % Initialize a vector for predicted labels.
predLabels(IDX==1) = categorical({'p'}); % Assign group 1 to be poisonous.
predLabels(IDX==2) = categorical({'e'}); % Assign group 2 to be edible.
confMatrix = confusionmat(labels,predLabels)

confMatrix =

        4176          32
         816        3100

Из 4208 съедобных грибов 4176 были правильно предсказаны в группе 2 (съедобная группа), а 32 были неправильно предсказаны в группе 1 (ядовитая группа). Аналогично, из 3916 ядовитых грибов 3100 были правильно предсказаны в группе 1 (ядовитая группа), и 816 были неправильно предсказаны в группе 2 (съедобная группа).

Учитывая эту матрицу путаницы, вычислите точность, которая является пропорцией истинных результатов (как истинных положительных, так и истинных отрицательных) к общим данным, и точность, которая является пропорцией истинных положительных результатов ко всем положительным результатам (истинных положительных и ложных положительных).

accuracy = (confMatrix(1,1)+confMatrix(2,2))/(sum(sum(confMatrix)))

accuracy =

    0.8956

precision = confMatrix(1,1) / (confMatrix(1,1)+confMatrix(2,1))

precision =

    0.8365

Результаты показали, что применение алгоритма k-medoids к категориальным особенностям грибов привело к кластерам, которые были связаны с съедобностью.