Многомерная общая линейная модель

В этом примере показано, как настроить многомерную общую линейную модель для оценки с помощью mvregress.

Загрузите выборочные данные.

Эти данные содержат измерения по выборке из 205 автоимпортам 1985 года.

Здесь моделируйте двухмерный ответ города и шоссе MPG (столбцы 14 и 15).

Для предикторов используйте основу колеса (столбец 3), снаряжение (столбец 7) и тип топлива (столбец 18). Первые два предиктора непрерывны, и для этого примера центрированы и масштабированы. Тип топлива является категориальной переменной с двумя категориями (11 и 20), поэтому для регрессии необходима переменная фиктивного индикатора.

load('imports-85')
Y = X(:,14:15);
[n,d] = size(Y);

X1 = zscore(X(:,3));
X2 = zscore(X(:,7));
X3 = X(:,18)==20;

Xmat = [ones(n,1) X1 X2 X3];

Переменная X3 закодирован так, чтобы иметь значение 1 для типа топлива 20 и значения 0 в противном случае.

Для удобства три предиктора (основа колеса, снаряженный вес и индикатор типа топлива) объединяются в одну матрицу проекта с добавленным точки пересечения термином.

Настройте матрицы проекта.

Учитывая эти предикторы, многомерная общая линейная модель для двухмерного ответа MPG является

$[\begin{array}{cc} y_{11} & y_{12} \\ y_{21} & y_{22} \\ ⋮ & ⋮ \\ y_{n 1} & y_{n 2} \end{array}] = [\begin{array}{cccc} 1 & x_{11} & x_{12} & x_{13} \\ 1 & x_{21} & x_{22} & x_{23} \\ ⋮ & ⋮ & ⋮ & ⋮ \\ 1 & x_{n 1} & x_{n 2} & x_{n 3} \end{array}] [\begin{array}{cc} β_{01} & β_{02} \\ β_{11} & β_{12} \\ β_{21} & β_{22} \\ β_{31} & β_{32} \end{array}] + [\begin{array}{cc} ϵ_{11} & ϵ_{12} \\ ϵ_{21} & ϵ_{22} \\ ⋮ & ⋮ \\ ϵ_{n 1} & ϵ_{n 2} \end{array}],$

где $ϵ_{i} = {(ϵ_{i 1}, ϵ_{i 2})}^{'} - M V N (0, Σ)$ . Есть $K = 8$ коэффициенты регрессии в общей сложности.

Создайте длину $n = 205$ массив ячеек матриц 2 на 8 (d-by-K) для использования со mvregress. i-я матрица в массиве ячеек

$X (i) = [\begin{array}{cccccccc} 1 & 0 & x_{i 1} & 0 & x_{i 2} & 0 & x_{i 3} & 0 \\ 0 & 1 & 0 & x_{i 1} & 0 & x_{i 2} & 0 & x_{i 3} \end{array}] .$

Xcell = cell(1,n);
for i = 1:n
    Xcell{i} = [kron([Xmat(i,:)],eye(d))];
end

Учитывая эту спецификацию матриц проекта, соответствующий вектор параметра является

$β = [\begin{array}{c} β_{01} \\ β_{02} \\ β_{11} \\ β_{12} \\ β_{21} \\ β_{22} \\ β_{31} \\ β_{32} \end{array}] .$

Оцените коэффициенты регрессии.

Подгонка модели с помощью максимальной оценки правдоподобия.

[beta,sigma,E,V] = mvregress(Xcell,Y);
beta

Эти оценки коэффициентов показывают:

Ожидаемые город и шоссе MPG для автомобилей средней основы колес, снаряженного веса и типа топлива 11 33.5 и 38.6, соответственно. Для типа топлива 20 ожидаемые город и шоссе MPG 33.5476 - 9.2284 = 24.3192 и 38.5720 - 8.6663 = 29.9057.
Увеличение одного стандартного отклонения снаряженной массы почти так же влияет на ожидаемые город и шоссе MPG. Учитывая, что все остальное равно, ожидаемое количество MPG уменьшается примерно на 6.3 с каждым одним стандартным увеличением отклонения снаряженной массы, как для города, так и для шоссе MPG.
Для каждого одного стандартного увеличения отклонения в основу колес ожидаемый городской MPG увеличивается 0.972, в то время как ожидаемая трасса MPG увеличивается только на 0.395, учитывая, что все остальное равно.

Вычислите стандартные ошибки.

Стандартные ошибки для коэффициентов регрессии являются квадратным корнем диагонали дисперсионно-ковариационной матрицы, V.

se = sqrt(diag(V))

Матрица коэффициентов изменения формы.

Вы можете легко перестроить коэффициенты регрессии в исходную матрицу 4 на 2.

B = reshape(beta,2,4)'

B = 4×2

   33.5476   38.5720
    0.9723    0.3950
   -6.3064   -6.3584
   -9.2284   -8.6663

Проверяйте допущения модели.

Согласно допущениям модели, $z = E Σ^{- 1 / 2}$ должен быть независимым, с двухмерным стандартным нормальным распределением. В этом 2-D случае можно оценить валидность этого предположения с помощью графика поля точек.

z = E/chol(sigma);
figure()
plot(z(:,1),z(:,2),'.')
title('Standardized Residuals')
hold on

% Overlay standard normal contours
z1 = linspace(-5,5);
z2 = linspace(-5,5);
[zx,zy] = meshgrid(z1,z2);
zgrid = [reshape(zx,100^2,1),reshape(zy,100^2,1)];
zn = reshape(mvnpdf(zgrid),100,100);
[c,h] = contour(zx,zy,zn);
clabel(c,h)

Figure contains an axes. The axes with title Standardized Residuals contains 2 objects of type line, contour.

Несколько невязок больше, чем ожидалось, но в целом мало доказательств против многомерного нормального предположения.

См. также

mvregress | mvregresslike

Документация

Многомерная общая линейная модель

Загрузите выборочные данные.

Настройте матрицы проекта.

Оцените коэффициенты регрессии.

Вычислите стандартные ошибки.

Матрица коэффициентов изменения формы.

Проверяйте допущения модели.

См. также

Похожие примеры

Подробнее о

Statistics and Machine Learning Toolbox документация

Поддержка