Линейные модели смешанных эффектов

Линейные модели смешанных эффектов - это расширения моделей линейной регрессии для данных, которые собираются и суммируются в группы. Эти модели описывают взаимосвязь между переменной ответа и независимыми переменными с коэффициентами, которые могут изменяться относительно одной или нескольких переменных группировки. Модель смешанных эффектов состоит из двух частей, фиксированных эффектов и случайных эффектов. Члены с фиксированными эффектами обычно являются обычной частью линейной регрессии, и случайные эффекты связаны с отдельными экспериментальными единицами, взятыми случайным образом из совокупности. Случайные эффекты имеют предыдущие распределения, в то время как фиксированные эффекты - нет. Модели смешанных эффектов могут представлять ковариационную структуру, связанную с группировкой данных, связывая общие случайные эффекты с наблюдениями, которые имеют тот же уровень группирующей переменной. Стандартной формой линейной модели смешанных эффектов является

$\underset{}{\underset{}{}} \underset{}{\underset{}{}} \underset{y=Xβ︸fixed+Zb︸random+ε︸error}{\underset{}{}},$

где

y - вектор отклика n-by-1, а n - число наблюдений.
X представляет собой матрицу конструкции с фиксированными эффектами n-by-p.
β - вектор с фиксированными эффектами p-by-1.
Z - матрица проектирования случайных эффектов n-на-q.
b - вектор случайных эффектов q-by-1.
start- вектор ошибки наблюдения n-by-1.

Допущения для линейной модели смешанных эффектов:

Вектор случайных эффектов, b, и вектор погрешности, λ, имеют следующие предшествующие распределения:

$\begin{array}{l} b ~ N (^{} 0,σ2D ( \\ start)), (0 \end{array}$ ),
где D - симметричная и положительная полудефинированная матрица, параметризованная вектором составляющей дисперсии, I - единичная матрица n-на-n,
Вектор случайных эффектов, b, и вектор погрешности, λ, независимы друг от друга.

Модели со смешанными эффектами также называются многоуровневыми моделями или иерархическими моделями в зависимости от контекста. Модели смешанных эффектов являются более общим термином, чем две последние. Модели смешанных эффектов могут включать факторы, которые не обязательно являются многоуровневыми или иерархическими, например перекрестные факторы. Вот почему смешанные эффекты являются терминологией, предпочтительной здесь. Иногда модели со смешанными эффектами выражаются как многоуровневые регрессионные модели (модели первого уровня и уровня группирования), которые подгоняются одновременно. Например, изменяющаяся или случайная модель перехвата с одной непрерывной прогнозирующей переменной x и одной группирующей переменной с M уровнями может быть выражена как

$\begin{array}{l} _{yim} =_{} {β0m}_{} +_{}_{β1xim} + αim, i = 1,2, . ., n, m =_{1,2}, . . .,^{M}, \\ _{αim} ~_{N} (_{0,} {start2}_{),} β0m =_{}^{} β00 \end{array}$ + b0m, b0m ~ N (0, start02),

где yim соответствует данным для наблюдения i и группы m, n - общее число наблюдений, а _b0m и _αim независимы друг от друга. После замены параметров уровня группы в модели первого уровня модель для вектора отклика становится

$_{} \underset{yim=β00+β1xim︸fixed}{\underset{}{_{}_{}_{}}} \underset{effects+b0m︸random эффекты}{\underset{}{_{}}} +_{}$ αим.

Модель случайного перехвата и наклона с одной непрерывной прогнозирующей переменной x, где и перехват, и наклон изменяются независимо посредством переменной группировки с M уровнями, составляет

$\begin{array}{l} _{yim} =_{} {β0m}_{+}_{}_{β1mxim} + αim, i = 1,2, . . ., n, m =_{1,2}, . . .,^{M}, \\ _{αim} ~_{N} (_{0,} {start2}_{),} β0m =_{}^{} β00 \\ +_{} {b0m}_{,}_{b0m} ~ N_{(} 0, {start02}_{)}^{,} \end{array}$ β1m = β10 + b1m, b1m ~ N (0, start12),

или

$_{bm} = \begin{array}{l} _{(} \\ _{} \end{array} b0mb1m) ~ N \begin{matrix} _{(}^{0} & , \\ _{}^{} \end{matrix}$ (

Вы также могли коррелировать случайные эффекты. В общем случае для модели со случайным перехватом и наклоном распределение случайных эффектов равно

$_{bm} = \begin{array}{l} _{(} \\ _{} \end{array} b0mb1m) ~ N {}^{(} 0,σD2$ (start)),

где D - симметрическая и положительная полуопределённая матрица 2 на 2, параметризованная вектором дисперсионной составляющей

После подстановки параметров уровня группы в модели первого уровня модель для вектора отклика будет

$_{} \underset{yim=β00+β10xim︸fixed}{\underset{}{_{}_{}_{}}} \underset{effects+b0m+b1mxim︸random эффекты}{\underset{}{_{}_{}_{}}} +_{} αим, i = 1,2, . . ., n, m = 1,2$ ,..., М.

Если выразить переменную уровня группы, xim, в выражении случайных эффектов по zim, эта модель

$_{} \underset{yim=β00+β10xim︸fixed}{\underset{}{_{}_{}_{}}} \underset{effects+b0m+b1mzim︸random эффекты}{\underset{}{_{}_{}_{}}} +_{} αим, i = 1,2, . . ., n, m = 1,2$ ,..., М.

В этом случае одинаковые термины появляются как в матрице проектирования с фиксированными эффектами, так и в матрице проектирования с случайными эффектами. Каждый _zim и _xim соответствуют уровню m переменной группировки.

Можно также объяснить больше вариаций на уровне группы, добавив больше переменных предиктора на уровне группы. Модель случайного перехвата и случайного наклона с одной непрерывной предикторной переменной x, где и перехват, и наклон варьируются независимо от переменной группировки с M уровнями, и одна предикторная переменная группового уровня vm является

$\begin{array}{l} _{yim}_{=β0im}_{}_{+β1imxim}_{+εim}, i=1,2 ..., n, m=1,2 ..., M,_{} εim~N (0,^{} σ2) \\ ,_{}_{}_{}_{}_{} β0im =β00 +β01vim+b0m,_{} b0m~N (0_{,}^{} σ02) \\ ,_{}_{}_{}_{}_{} β1im =β10 +β11vim+b1m,_{} b1m~N (_{0}^{,} \end{array}$ σ12).

Эта модель приводит к основным эффектам предиктора группового уровня и термину взаимодействия между переменными предиктора первого уровня и предиктора группового уровня в модели для переменной ответа как

$\begin{array}{l} _{yim} =_{} {β00}_{+}_{}_{β01vim} +_{} b0m_{+} (_{} β10_{+}_{} {β11vim}_{+} b1m) xim + αim, i = 1,2, . . \\ ., \underset{}{\underset{}{n_{,} m_{=}_{1,2}, ._{..},_{M},_{}_{}_{}}} \underset{}{\underset{=β00+β10xim+β01vim+β11vimxim︸fixed}{_{}_{}_{}}}_{} \end{array}$ effects+b0m+b1mxim︸random эффекты + αim.

Термин β11vmxim часто называют межуровневым взаимодействием во многих учебниках по многоуровневым моделям. Модель для переменной ответа y может быть выражена как

$\begin{array}{l} _{yim} = \begin{matrix} [_{}_{} & _{} & _{}_{} \end{matrix} 1x1imvimvimx1im \begin{matrix} ]_{[} \\ _{} \\ _{} \\ _{} \end{matrix} β00β10β01β11 \begin{matrix} ] & _{+ [} \end{matrix} \begin{matrix} _{1x1im} \\ ]_{[} \end{matrix}_{} b0mb1m] + αim, i = 1,2, . . ., n, m \\ = \end{array}$ 1,2,..., M,

которая соответствует стандартной форме, приведенной ранее,

$y = Xβ +$ Zb +

В общем случае, если существуют R группирующих переменных, и m (r, i) показывает уровень группирующей переменной r, для наблюдения i, то модель для ответной переменной для наблюдения i является

$_{}_{}^{}_{}^{}_{}_{yi=xiTβ+∑r=1Rzirbm (r,}^{i)} (r_{)} + αi, i = 1,2$ ,..., n,

где β является вектором с фиксированными эффектами p-by-1, b ^(r_{) m (r}, i) является вектором случайных эффектов q (r) -by-1 для переменной rth группирования и уровня m (r, i₎, а αi является термином ошибки 1 на 1 для наблюдения i.

Ссылки

[1] Pinherio, J. C. и Д. М. Бэйтс. Модели смешанных эффектов в S и S-PLUS. Серия статистики и вычислений, Спрингер, 2004.

[2] Харихаран, С. и Дж. Х. Роджерс. «Процедуры оценки для иерархических линейных моделей». Многоуровневое моделирование образовательных данных (А. А. Коннелл и Д. Б. МакКоуч, ред.). Charlotte, NC: Information Age Publishing, Inc., 2008.

[3] Hox, J. Многоуровневый анализ, методы и применения. Lawrence Erlbaum Associates, Inc., 2002

[4] Сниджерс, Т. и Р. Боскер. Многоуровневый анализ. «Тысяча дубов», CA: Sage Publications, 1999.

[5] Гельман, А. и Дж. Хилл. Анализ данных с использованием регрессии и многоуровневых/иерархических моделей. Нью-Йорк, Нью-Йорк: Cambridge University Press, 2007.

См. также

fitlme | fitlmematrix | LinearMixedModel

Связанные темы

Подготовка данных для линейных моделей смешанных эффектов

Документация