Многомерная общая линейная модель

В этом примере показано, как настроить многомерную общую линейную модель для оценки с помощью mvregress.

Загрузка демонстрационных данных.

Эти данные содержат измерения на выборке 205 автоматического импорта от 1 985.

Здесь, смоделируйте двумерный ответ города и магистрального MPG (столбцы 14 и 15).

Для предикторов используйте основу колеса (столбец 3), собственный вес (столбец 7) и вид топлива (столбец 18). Первые два предиктора непрерывны, и для этого примера сосредотачиваются и масштабируются. Вид топлива является категориальной переменной с двумя категориями (11 и 20), таким образом, фиктивная переменная индикатора необходима для регрессии.

load('imports-85')
Y = X(:,14:15);
[n,d] = size(Y);

X1 = zscore(X(:,3));
X2 = zscore(X(:,7));
X3 = X(:,18)==20;

Xmat = [ones(n,1) X1 X2 X3];

Переменная X3 закодирован, чтобы иметь значение 1 для вида топлива 20, и значение 0 в противном случае.

Для удобства эти три предиктора (основа колеса, собственный вес и индикатор вида топлива) объединены в одну матрицу проекта с добавленным термином точки пересечения.

Настройте матрицы проекта.

Учитывая эти предикторы, многомерная общая линейная модель для двумерного ответа MPG

$[\begin{array}{cc} y_{11} & y_{12} \\ y_{21} & y_{22} \\ ⋮ & ⋮ \\ y_{n 1} & y_{n 2} \end{array}] = [\begin{array}{cccc} 1 & x_{11} & x_{12} & x_{13} \\ 1 & x_{21} & x_{22} & x_{23} \\ ⋮ & ⋮ & ⋮ & ⋮ \\ 1 & x_{n 1} & x_{n 2} & x_{n 3} \end{array}] [\begin{array}{cc} β_{01} & β_{02} \\ β_{11} & β_{12} \\ β_{21} & β_{22} \\ β_{31} & β_{32} \end{array}] + [\begin{array}{cc} ϵ_{11} & ϵ_{12} \\ ϵ_{21} & ϵ_{22} \\ ⋮ & ⋮ \\ ϵ_{n 1} & ϵ_{n 2} \end{array}],$

где $ϵ_{i} = {(ϵ_{i 1}, ϵ_{i 2})}^{'} - M V N (0, Σ)$ . Существуют $K = 8$ коэффициенты регрессии всего.

Создайте длину $n = 205$ массив ячеек 2 8 (d-by-K) матрицы для использования с mvregress. I-ая матрица в массиве ячеек

$X (i) = [\begin{array}{cccccccc} 1 & 0 & x_{i 1} & 0 & x_{i 2} & 0 & x_{i 3} & 0 \\ 0 & 1 & 0 & x_{i 1} & 0 & x_{i 2} & 0 & x_{i 3} \end{array}] .$

Xcell = cell(1,n);
for i = 1:n
    Xcell{i} = [kron([Xmat(i,:)],eye(d))];
end

Учитывая эту спецификацию матриц проекта, соответствующий вектор параметра

$β = [\begin{array}{c} β_{01} \\ β_{02} \\ β_{11} \\ β_{12} \\ β_{21} \\ β_{22} \\ β_{31} \\ β_{32} \end{array}] .$

Оцените коэффициенты регрессии.

Подбирайте модель с помощью оценки наибольшего правдоподобия.

[beta,sigma,E,V] = mvregress(Xcell,Y);
beta

Эти содействующие оценки показывают:

Ожидаемым городом и магистральным MPG для автомобилей средней основы колеса, собственного веса и вида топлива 11 является 33.5 и 38.6, соответственно. Для вида топлива 20, ожидаемым городом и магистральным MPG является 33.5476 - 9.2284 = 24.3192 и 38.5720 - 8.6663 = 29.9057.
Увеличение одного стандартного отклонения в собственном весе оказывает почти то же влияние на ожидаемый город и магистральный MPG. Учитывая все остальное равно, ожидаемые уменьшения MPG приблизительно 6.3 с каждым стандартным отклонением увеличиваются в собственном весе, и для города и для магистрального MPG.
Для каждого увеличения стандартного отклонения основы колеса ожидаемый городской MPG увеличивает 0.972, в то время как ожидаемый магистральный MPG увеличивается только 0.395, учитывая все остальное равно.

Вычислите стандартные погрешности.

Стандартные погрешности для коэффициентов регрессии являются квадратным корнем из диагонали ковариационной матрицы отклонения, V.

se = sqrt(diag(V))

Измените матрицу коэффициентов.

Можно легко изменить коэффициенты регрессии в оригинал 4 2 матрица.

B = reshape(beta,2,4)'

B = 4×2

   33.5476   38.5720
    0.9723    0.3950
   -6.3064   -6.3584
   -9.2284   -8.6663

Проверяйте предположения модели.

Под предположениями модели, $z = E Σ^{- 1 / 2}$ должно быть независимым, с двумерным стандартным нормальным распределением. В этом 2D случае можно оценить валидность этого предположения с помощью графика рассеивания.

z = E/chol(sigma);
figure()
plot(z(:,1),z(:,2),'.')
title('Standardized Residuals')
hold on

% Overlay standard normal contours
z1 = linspace(-5,5);
z2 = linspace(-5,5);
[zx,zy] = meshgrid(z1,z2);
zgrid = [reshape(zx,100^2,1),reshape(zy,100^2,1)];
zn = reshape(mvnpdf(zgrid),100,100);
[c,h] = contour(zx,zy,zn);
clabel(c,h)

Figure contains an axes. The axes with title Standardized Residuals contains 2 objects of type line, contour.

Несколько остаточных значений больше, чем ожидалось, но в целом, существует мало доказательства против многомерного предположения нормальности.

Смотрите также

mvregress | mvregresslike

Документация

Многомерная общая линейная модель

Загрузка демонстрационных данных.

Настройте матрицы проекта.

Оцените коэффициенты регрессии.

Вычислите стандартные погрешности.

Измените матрицу коэффициентов.

Проверяйте предположения модели.

Смотрите также

Связанные примеры

Больше о

Документация Statistics and Machine Learning Toolbox

Поддержка