Линейные модели смешанных эффектов

Линейные модели смешанных эффектов являются расширениями линейных регрессионых моделей для данных, которые собираются и суммируются в группах. Эти модели описывают связь между переменной отклика и независимыми переменными с коэффициентами, которые могут варьироваться относительно одной или нескольких сгруппированных переменных. Модель смешанных эффектов состоит из двух частей, фиксированных эффектов и случайных эффектов. Члены с фиксированными эффектами обычно являются обычной линейной регрессионой частью, и случайные эффекты связаны с отдельными экспериментальными модулями, нарисованными случайным образом из населения. Модели смешанных эффектов могут представлять ковариационную структуру, связанную с группировкой данных, путем связи общих случайных эффектов с наблюдениями, которые имеют тот же уровень переменной группировки. Стандартная форма линейной модели смешанных эффектов

$y = \underset{f i x e d}{\underset{︸}{X β}} + \underset{r a n d o m}{\underset{︸}{Z b}} + \underset{e r r o r}{\underset{︸}{ε}},$

где

y - n вектор отклика -by-1, а n - количество наблюдений.
X является n матрицей проекта -by p fixed-effects.
β является вектором p -by-1 с фиксированными эффектами.
Z является n матрицей проекта -by q random-эффектов.
b является q вектором случайных эффектов -by-1.
ε является n вектором ошибки наблюдения -by-1.

Допущения для модели линейных смешанных эффектов:

Вектор, b и вектор ошибок случайных эффектов, ε, имеют следующие предшествующие распределения:

$\begin{array}{l} b ~ N (0, σ^{2} D (θ)), \\ ε ~ N (0, σ {}^{2}I), \end{array}$
где D - симметричная и положительная полуопределенная матрица, параметризованная вектором θ дисперсионного компонента, I является единичной матрицей n -by n и σ² - отклонение ошибок.
Вектор, b и вектор ошибок случайных эффектов, ε, независимы друг от друга.

Модели со смешанными эффектами также называются многоуровневыми моделями или иерархическими моделями в зависимости от контекста. Модели со смешанными эффектами являются более общим термином, чем последние две. Модели со смешанными эффектами могут включать факторы, которые не обязательно являются многоуровневыми или иерархическими, например перекрестные факторы. Именно поэтому здесь предпочтительной терминологией являются смешанные эффекты. Иногда модели со смешанными эффектами выражаются как многоуровневые регрессионые модели (модели первого уровня и модели уровня группировки), которые подгоняются одновременно. Для примера изменяющаяся или случайная точка пересечения модель с одной непрерывной переменной предиктора x и одной сгруппированной переменной с M уровнями, может быть выражена как

$\begin{array}{l} y_{i m} = β_{0 m} + β_{1} x_{i m} + ε_{i m}, i = 1, 2, .., n, m = 1, 2, ..., M, ε_{i m} ~ N (0, σ^{2}), \\ β_{0 m} = β_{00} + b_{0 m}, b_{0 m} ~ N (0, σ_{0}^{2}), \end{array}$

где <reservedrangesplaceholder6> <reservedrangesplaceholder5> соответствует данным для наблюдения i, и _{группа <reservedrangesplaceholder3>, <reservedrangesplaceholder2>} - общее количество наблюдений, и b0 <reservedrangesplaceholder1> и ε <reservedrangesplaceholder0> независимы друг от друга. После подстановки параметров уровня группы в модели первого уровня модель для вектора отклика становится

$y_{i m} = \underset{f i x e d e f f e c t s}{\underset{︸}{β_{00} + β_{1} x_{i m}}} + \underset{r a n d o m e f f e c t s}{\underset{︸}{b_{0 m}}} + ε_{i m} .$

Модель случайной точки пересечения и наклона с одной непрерывной переменной предиктора x, где и точка пересечения, и наклон изменяются независимо от сгруппированной переменной с M уровнями,

$\begin{array}{l} y_{i m} = β_{0 m} + β_{1 m} x_{i m} + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M, ε_{i m} ~ N (0, σ^{2}), \\ β_{0 m} = β_{00} + b_{0 m}, b_{0 m} ~ N (0, σ_{0}^{2}), \\ β_{1 m} = β_{10} + b_{1 m}, b_{1 m} ~ N (0, σ_{1}^{2}), \end{array}$

или

$b_{m} = (\begin{array}{l} b_{0 m} \\ b_{1 m} \end{array}) ~ N (0, (\begin{matrix} σ_{0}^{2} & 0 \\ 0 & σ_{1}^{2} \end{matrix})) .$

Вы также можете иметь коррелированные случайные эффекты. В целом для модели со случайной точкой пересечения и наклоном, распределение случайных эффектов является

$b_{m} = (\begin{array}{l} b_{0 m} \\ b_{1 m} \end{array}) ~ N (0, σ {}^{2}D (θ)),$

где D - симметричная и положительная полуопределенная матрица 2 на 2, параметризованная вектором с дисперсионной составляющей θ.

После подстановки параметров уровня группы в модели первого уровня модель для вектора отклика является

$y_{i m} = \underset{f i x e d e f f e c t s}{\underset{︸}{β_{00} + β_{10} x_{i m}}} + \underset{r a n d o m e f f e c t s}{\underset{︸}{b_{0 m} + b_{1 m} x_{i m}}} + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M .$

Если вы выражаете переменную уровня группы, x _im, в термине случайных эффектов по _z im, эта модель является

$y_{i m} = \underset{f i x e d e f f e c t s}{\underset{︸}{β_{00} + β_{10} x_{i m}}} + \underset{r a n d o m e f f e c t s}{\underset{︸}{b_{0 m} + b_{1 m} z_{i m}}} + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M .$

В этом случае одни и те же условия появляются как в матрице проекта с фиксированными эффектами, так и в матрице проекта со случайными эффектами. Каждый _zim и _xim соответствуют m уровня сгруппированной переменной.

Можно также объяснить больше изменения уровня группы, добавив больше переменных предиктора уровня группы. Модель случайного перехвата и случайного наклона с одним непрерывным x переменной предиктора, где и перехват, и наклон изменяются независимо от переменной группировки с M уровнями, и одна переменная предиктора группового уровня v m

$\begin{array}{l} y_{i m} = β_{0 i m} + β_{1 i m} x_{i m} + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M, ε_{i m} ~ N (0, σ^{2}), \\ β_{0 i m} = β_{00} + β_{01} v_{i m} + b_{0 m}, b_{0 m} ~ N (0, σ_{0}^{2}), \\ β_{1 i m} = β_{10} + β_{11} v_{i m} + b_{1 m}, b_{1 m} ~ N (0, σ_{1}^{2}) . \end{array}$

Эта модель приводит к основным эффектам предиктора уровня группы и термину взаимодействия между переменными предиктора первого уровня и уровня группы в модели для переменной отклика как

$\begin{array}{l} y_{i m} = β_{00} + β_{01} v_{i m} + b_{0 m} + (β_{10} + β_{11} v_{i m} + b_{1 m}) x_{i m} + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M, \\ = \underset{f i x e d e f f e c t s}{\underset{︸}{β_{00} + β_{10} x_{i m} + β_{01} v_{i m} + β_{11} v_{i m} x_{i m}}} + \underset{r a n d o m e f f e c t s}{\underset{︸}{b_{0 m} + b_{1 m} x_{i m}}} + ε_{i m} . \end{array}$

Термин <reservedrangesplaceholder5>11<reservedrangesplaceholder4><reservedrangesplaceholder3><reservedrangesplaceholder2><reservedrangesplaceholder1> часто называют взаимодействием поперечного уровня во многих учебниках по многоуровневым моделям. Модель для y переменной отклика может быть выражена как

$\begin{array}{l} y_{i m} = [\begin{matrix} 1 & x_{1}_{i m} & v_{i m} & v_{i m} x_{1 i m} \end{matrix}] [\begin{matrix} β_{00} \\ β_{10} \\ β_{01} \\ β_{11} \end{matrix}] + [\begin{matrix} 1 & x_{1 i m} \end{matrix}] [\begin{matrix} b_{0 m} \\ b_{1 m} \end{matrix}] + ε_{i m}, i = 1, 2, ..., n, m = 1, 2, ..., M, \end{array}$

который соответствует стандартной форме, заданной ранее,

$y = X β + Z b + ε .$

В целом, если существует R переменных группирования, и m (r, i) показывает уровень группирования переменных r, для i наблюдений, то модель для переменной отклика для i наблюдений

$y_{i} = x_{i}^{T} β + \sum_{r = 1}^{R} z_{i r} b_{m (r, i)}^{(r)} + ε_{i}, i = 1, 2, ..., n,$

где β - вектор p -by-1 с фиксированными эффектами, b^(r)_{m (r, i}) q (<reservedrangesplaceholder7>)-by-1 вектор случайных эффектов для сгруппированной переменной <reservedrangesplaceholder6> th и уровня <reservedrangesplaceholder5> (r, i), и <reservedrangesplaceholder2> <reservedrangesplaceholder1> - остаточный член 1 на 1 для наблюдения i.

Ссылки

[1] Pinherio, J. C., and D. M. Bates. Модели смешанных эффектов в S и S-PLUS. Statistics and Computing Series, Springer, 2004.

[2] Харихаран, С. и Дж. Х. Роджерс. «Процедуры оценки для иерархических линейных моделей». Многоуровневое моделирование образовательных данных (A. A. Connell and D. B. McCoach, eds.). Шарлотта, NC: Information Age Publishing, Inc., 2008.

[3] Hox, J. Многоуровневый анализ, методы и приложения. Lawrence Erlbaum Associates, Inc., 2002

[4] Snidjers, T. and R. Bosker. Многоуровневый анализ. Тысяча дубов, CA: Sage Publications, 1999.

[5] Гельман, А. и Дж. Хилл. Анализ данных с использованием регрессии и многоуровневых/иерархических моделей. Нью-Йорк, Нью-Йорк: Cambridge University Press, 2007.

См. также

fitlme | fitlmematrix | LinearMixedModel

Документация