Настройка Смешанных гауссовских моделей

Этот пример показывает, как определить лучшую смешанную гауссовскую модель (GMM) подгонкой путем корректировки количества компонентов и ковариации матрицы компонента.

Загрузите набор данных радужки Фишера. Рассмотрим измерения лепестка как предикторы.

load fisheriris;
X = meas(:,3:4);
[n,p] = size(X);
rng(1); % For reproducibility

figure;
plot(X(:,1),X(:,2),'.','MarkerSize',15);
title('Fisher''s Iris Data Set');
xlabel('Petal length (cm)');
ylabel('Petal width (cm)');

Предположим, что k - это количество желаемых компонентов или кластеров, и$\Sigma$ является ковариационной структурой для всех компонентов. Выполните следующие действия, чтобы настроить GMM.

  1. Выберите (k,) $\Sigma$пару, а затем подгоните GMM с помощью выбранной спецификации параметра и всего набора данных.

  2. Оцените AIC и BIC.

  3. Повторяйте шаги 1 и 2, пока вы не исчерпаете все (k,) $\Sigma$интересующие вас пары.

  4. Выберите установленный GMM, который балансирует низкий AIC с простотой.

В данном примере выберите сетку значений для k, которые включают 2 и 3, и некоторые окружающие числа. Задайте все доступные варианты для ковариационной структуры. Если k слишком высоко для набора данных, то предполагаемые ковариации компонента могут быть плохо обусловлены. Задайте, чтобы использовать регуляризацию, чтобы избежать плохо обусловленных ковариационных матриц. Увеличьте количество итераций алгоритма EM до 10000.

k = 1:5;
nK = numel(k);
Sigma = {'diagonal','full'};
nSigma = numel(Sigma);
SharedCovariance = {true,false};
SCtext = {'true','false'};
nSC = numel(SharedCovariance);
RegularizationValue = 0.01;
options = statset('MaxIter',10000);

Подгонка GMM с помощью всех комбинаций параметров. Вычислите AIC и BIC для каждой подгонки. Отслеживайте состояние сходимости терминалов для каждой подгонки.

% Preallocation
gm = cell(nK,nSigma,nSC);
aic = zeros(nK,nSigma,nSC);
bic = zeros(nK,nSigma,nSC);
converged = false(nK,nSigma,nSC);

% Fit all models
for m = 1:nSC;
    for j = 1:nSigma;
        for i = 1:nK;
            gm{i,j,m} = fitgmdist(X,k(i),...
                'CovarianceType',Sigma{j},...
                'SharedCovariance',SharedCovariance{m},...
                'RegularizationValue',RegularizationValue,...
                'Options',options);
            aic(i,j,m) = gm{i,j,m}.AIC;
            bic(i,j,m) = gm{i,j,m}.BIC;
            converged(i,j,m) = gm{i,j,m}.Converged;
        end
    end
end

allConverge = (sum(converged(:)) == nK*nSigma*nSC)
allConverge =

  logical

   1

gm - массив ячеек, содержащий все установленные gmdistribution объекты модели. Все образцы модели сходились.

Постройте отдельные столбчатые диаграммы, чтобы сравнить AIC и BIC среди всех подгонок. Сгруппировать полосы по к.

figure;
bar(reshape(aic,nK,nSigma*nSC));
title('AIC For Various $k$ and $\Sigma$ Choices','Interpreter','latex');
xlabel('$k$','Interpreter','Latex');
ylabel('AIC');
legend({'Diagonal-shared','Full-shared','Diagonal-unshared',...
    'Full-unshared'});

figure;
bar(reshape(bic,nK,nSigma*nSC));
title('BIC For Various $k$ and $\Sigma$ Choices','Interpreter','latex');
xlabel('$c$','Interpreter','Latex');
ylabel('BIC');
legend({'Diagonal-shared','Full-shared','Diagonal-unshared',...
    'Full-unshared'});

Согласно значениям AIC и BIC, лучшая модель имеет 3 компонента и полную, незакреплённую ковариацию матрицы.

Группируйте обучающие данные с помощью оптимальной модели модели. Постройте график кластеризованных данных и эллипсов компонентов.

gmBest = gm{3,2,2};
clusterX = cluster(gmBest,X);
kGMM = gmBest.NumComponents;
d = 500;
x1 = linspace(min(X(:,1)) - 2,max(X(:,1)) + 2,d);
x2 = linspace(min(X(:,2)) - 2,max(X(:,2)) + 2,d);
[x1grid,x2grid] = meshgrid(x1,x2);
X0 = [x1grid(:) x2grid(:)];
mahalDist = mahal(gmBest,X0);
threshold = sqrt(chi2inv(0.99,2));

figure;
h1 = gscatter(X(:,1),X(:,2),clusterX);
hold on;
for j = 1:kGMM;
    idx = mahalDist(:,j)<=threshold;
    Color = h1(j).Color*0.75 + -0.5*(h1(j).Color - 1);
    h2 = plot(X0(idx,1),X0(idx,2),'.','Color',Color,'MarkerSize',1);
    uistack(h2,'bottom');
end
h3 = plot(gmBest.mu(:,1),gmBest.mu(:,2),'kx','LineWidth',2,'MarkerSize',10);
title('Clustered Data and Component Structures');
xlabel('Petal length (cm)');
ylabel('Petal width (cm)');
legend(h1,'Cluster 1','Cluster 2','Cluster 3','Location','NorthWest');
hold off

Этот набор данных включает метки. Определите, насколько хорошо gmBest кластеризует данные путем сравнения каждого предсказания с истинными метками.

species = categorical(species);
Y = zeros(n,1);
Y(species == 'versicolor') = 1;
Y(species == 'virginica') = 2;
Y(species == 'setosa') = 3;

miscluster = Y ~= clusterX;
clusterError = sum(miscluster)/n
clusterError =

    0.0800

Лучший подбор кривой GMM группирует 8% наблюдений в неправильный кластер.

cluster не всегда сохраняет порядок кластеров. То есть, если вы кластеризуете несколько подобранных gmdistribution модели, cluster может назначать различные метки кластеров для аналогичных компонентов.

См. также

| |

Похожие темы

Для просмотра документации необходимо авторизоваться на сайте