exponenta event banner

lmtest

Тест множителя Лагранжа спецификации модели

Описание

пример

h = lmtest(score,ParamCov,dof) возвращает логическое значение (h) с решением об отклонении от проведения теста множителя Лагранжа спецификации модели на уровне значимости 5%. lmtest строит статистику теста с помощью функции оценки (score), расчетная ковариация параметра (ParamCov) и степеней свободы (dof).

пример

h = lmtest(score,ParamCov,dof,alpha) возвращает решение об отклонении теста множителя Лагранжа, проведенного на уровне значимости alpha.

  • Если score и ParamCov являются массивами k ячеек, тогда все остальные аргументы должны быть векторами k длины или скалярами. lmtest рассматривает каждую ячейку как отдельный тест и возвращает вектор решений об отклонении.

  • Если score является массивом ячеек строк, то lmtest возвращает вектор строки.

пример

[h,pValue] = lmtest(___) возвращает решение об отклонении и значение p (pValue) для проверки гипотезы, используя любой из входных аргументов в предыдущих синтаксисах.

пример

[h,pValue,stat,cValue] = lmtest(___) дополнительно возвращает статистику теста (stat) и критическое значение (cValue) для теста гипотезы.

Примеры

свернуть все

Сравнение спецификаций модели AR для моделируемой серии ответов с использованием lmtest.

Рассмотрим модель AR (3):

yt = 1 + 0 .9yt-1-0.5yt-2 + 0 .4yt-3 + αt,

где αt - гауссов со средним значением 0 и дисперсией 1. Укажите эту модель с помощью arima.

Mdl = arima('Constant',1,'Variance',1,'AR',{0.9,-0.5,0.4});

Mdl является полностью указанной моделью AR (3).

Смоделировать предварительную выборку и эффективные примеры ответов из Mdl.

T = 100;
rng(1);               % For reproducibility
n = max(Mdl.P,Mdl.Q); % Number of presample observations
y = simulate(Mdl,T + n);

y является случайным путем из Mdl включает в себя предварительные наблюдения.

Укажите ограниченную модель:

yt = c + δ 1yt-1 + λ 2yt-2 + αt,

где αt - гауссов со средним 0 и дисперсией start2.

Mdl0 = arima(3,0,0);
Mdl0.AR{3} = 0;

Структура Mdl0 является таким же, как Mdl. Однако каждый параметр неизвестен, за исключением того, что ϕ3=0. Это ограничение равенства во время оценки.

Оцените ограниченную модель, используя смоделированные данные (y).

[EstMdl0,EstParamCov] = estimate(Mdl0,y((n+1):end),...
    'Y0',y(1:n),'display','off');
phi10 = EstMdl0.AR{1};
phi20 = EstMdl0.AR{2};
phi30 = 0;
c0 = EstMdl0.Constant;
phi0 = [c0;phi10;phi20;phi30];
v0 = EstMdl0.Variance;

EstMdl0 содержит оценки параметров модели с ограниченным доступом.

lmtest требуется неограниченный балл модели, оцениваемый в ограниченных оценках модели. Неограниченный градиент модели:

∂l (ϕ1, ϕ2, ϕ3, c, σ2; yt..., yt-3) ∂c=1σ2 (yt c \U 03D5\1yt 1 \U 03D5\2yt 2 \U 03D5\3yt 3)

∂l (ϕ1, ϕ2, ϕ3, c, σ2; yt..., yt-3) ϕj=1σ2 (yt c \U 03D5\1yt 1 \U 03D5\2yt 2 \U 03D5\3yt 3) yt-j

∂l (ϕ1, ϕ2, ϕ3, c, σ2; yt..., yt-3) σ2 =-12σ2+12σ4 (yt c \U 03D5\1yt 1 \U 03D5\2yt 2 \U 03D5\3yt 3) 2.

MatY = lagmatrix(y,1:3);
LagY = MatY(all(~isnan(MatY),2),:);
cGrad = (y((n+1):end)-[ones(T,1),LagY]*phi0)/v0;
phi1Grad = ((y((n+1):end)-[ones(T,1),LagY]*phi0).*LagY(:,1))/v0;
phi2Grad = ((y((n+1):end)-[ones(T,1),LagY]*phi0).*LagY(:,2))/v0;
phi3Grad = ((y((n+1):end)-[ones(T,1),LagY]*phi0).*LagY(:,3))/v0;
vGrad = -1/(2*v0)+((y((n+1):end)-[ones(T,1),LagY]*phi0).^2)/(2*v0^2);
Grad = [cGrad,phi1Grad,phi2Grad,phi3Grad,vGrad]; % Gradient matrix

score = sum(Grad)'; % Score under the restricted model

Оцените неограниченный параметр оценки ковариации, используя ограниченные MLE и метод внешнего произведения градиентов (OPG).

EstParamCov0 = inv(Grad'*Grad);
dof = 1; % Number of model restrictions

Проверьте нулевую гипотезу о том, что δ 3 = 0 на уровне значимости 1%, используяlmtest.

[h,pValue] = lmtest(score,EstParamCov0,dof,0.1)
h = logical
   1

pValue = 2.2524e-09

pValue близок к 0, что говорит о наличии убедительных доказательств отклонения модели ограниченного AR (2) в пользу модели неограниченного AR (3).

Сравните две спецификации модели для смоделированных данных об образовании и доходах. Неограниченная модель имеет следующие логики:

l (β, start) = -nlogΓ (start) +ρ∑k=1nlogβk+ (start-1) ∑k=1nlog (yk) - ∑k=1nykβk,

где

  • βk = + xk.

  • xk - количество оценок, которые человек k завершил.

  • yk - доход (в тысячах долларов США) человека k.

То есть, доход человека k, учитывая количество оценок, которые человек k завершил, является Гамма, распределенной с формой startи скоростью βi. Ограниченная модель устанавливает («set = 1»), что подразумевает, что доход человека k, учитывая число оценок, которые человек k завершил, экспоненциально распределяется со средним значением β + xi.

Ограниченная модель - H0: start= 1. Для сравнения этой модели с неограниченной моделью необходимо выполнить следующие действия.

  • Градиентный вектор неограниченной модели

  • Оценка максимального правдоподобия (MLE) в модели с ограничениями

  • Оценка ковариации параметра оценивается в соответствии с MLE ограниченной модели

Загрузите данные.

load Data_Income1
x = DataTable.EDU;
y = DataTable.INC;

Оцените ограниченные параметры модели, максимизировав l (start, β) по отношению к β, подчиняясь ограничению start= 1. Градиент l (start, β) равен

∂l (start, β) ∂β=∑i=1T (yiβi2-βββi)

∂l (start, β) ∂ρ=-TΨ (start) +∑i=1T (logβiyi),

где Start( start) - дигамма-функция .

rho0 = 1; % Restricted rho
dof = 1;  % Number of restrictions
dLBeta = @(beta) sum(y./((beta + x).^2) - rho0./(beta + x));...
    % Anonymous gradient function

[betaHat0,fVal,exitFlag] = fzero(dLBeta,0)
betaHat0 = 15.6027
fVal = 2.7756e-17
exitFlag = 1
beta = [0:0.1:50];
plot(beta,arrayfun(dLBeta,beta))
hold on
plot([beta(1);beta(end)],zeros(2,1),'k:')
plot(betaHat0,fVal,'ro','MarkerSize',10)
xlabel('{\beta}')
ylabel('Loglikelihood Gradient')
title('{\bf Loglikelihood Gradient with Respect to \beta}')
hold off

Figure contains an axes. The axes with title {\bf Loglikelihood Gradient with Respect to \beta} contains 3 objects of type line.

Градиент по отношению к β (dLBeta) уменьшается, что говорит о наличии локального максимума в его корне. Поэтому betaHat0 является MLE для модели с ограниченным доступом. fVal указывает, что значение градиента очень близко к 0 при betaHat0. Флаг выхода (exitFlag) равно 1, что означает, что fzero без проблем обнаружил корень градиента.

Оцените ковариацию параметра в ограниченной модели, используя внешнее произведение градиентов (OPG).

rGradient = [-rho0./(betaHat0+x)+y.*(betaHat0+x).^(-2),...
      log(y./(betaHat0+x))-psi(rho0)];    % Gradient per unit
rScore = sum(rGradient)';                 % Score function
rEstParamCov = inv(rGradient'*rGradient); % Parameter covariance estimate

Протестируйте неограниченную модель по сравнению с ограниченной моделью с помощью теста множителя Лагранжа.

[h,pValue] = lmtest(rScore,rEstParamCov,dof)
h = logical
   1

pValue = 7.4744e-05

pValue близок к 0, что указывает на наличие убедительных доказательств того, что неограниченная модель подходит для данных лучше, чем ограниченная модель.

Проверка наличия значительных эффектов ARCH в моделируемой серии ответов с использованием lmtest. Значения параметров в этом примере являются произвольными.

Укажите модель AR (1) с дисперсией ARCH (1):

yt = 0 .9yt-1 + αt,

где

  • αt = wtht.

  • ht = 1 + 0 .5αt-12.

  • wt - гауссов со средним значением 0 и дисперсией 1.

VarMdl = garch('ARCH',0.5,'Constant',1);
Mdl = arima('Constant',0,'Variance',VarMdl,'AR',0.9);

Mdl является полностью заданной моделью AR (1) с дисперсией ARCH (1).

Смоделировать предварительную выборку и эффективные примеры ответов из Mdl.

T = 100;
rng(1);  % For reproducibility
n = 2;   % Number of presample observations required for the gradient
[y,ep,v] = simulate(Mdl,T + n);

ep - случайный путь инноваций из VarMdl. Фильтры программного обеспечения ep через Mdl для получения случайного пути отклика y.

Укажите ограниченную модель и предположим, что константа модели AR равна 0:

yt = c + δ 1yt-1 + αt,

где ht = α0 + α1αt-12.

VarMdl0 = garch(0,1);
VarMdl0.ARCH{1} = 0;
Mdl0 = arima('ARLags',1,'Constant',0,'Variance',VarMdl0);

Структура Mdl0 является таким же, как Mdl. Однако каждый параметр неизвестен, за исключением ограничения α1 = 0. Это ограничения равенства во время оценки. Вы можете интерпретироватьMdl0 как модель AR (1) с гауссовыми инновациями, которые имеют среднее значение 0 и постоянную дисперсию.

Оцените ограниченную модель, используя смоделированные данные (y).

psI = 1:n;             % Presample indices
esI = (n + 1):(T + n); % Estimation sample indices

[EstMdl0,EstParamCov] = estimate(Mdl0,y(esI),...
    'Y0',y(psI),'E0',ep(psI),'V0',v(psI),'display','off');
phi10 = EstMdl0.AR{1};
alpha00 = EstMdl0.Variance.Constant;

EstMdl0 содержит оценки параметров модели с ограниченным доступом.

lmtest требуется неограниченный балл модели, оцениваемый в ограниченных оценках модели. Неограниченная модельная функция «loglikeability»:

l (δ 1, α0, α1) =∑t=2T (-0,5log (2δ) -0,5light-αt22ht),

где αt = yt-δ 1yt-1. Неограниченный градиент:

∂l (δ 1, α0, α1) ∂α=∑t=2T12htztft,

где zt = [1, αt-12] и ft = αt2ht-1. Информационная матрица:

I=12ht2∑t=2Tzt′zt.

Под нулевой ограниченной моделью ht=h0=αˆ0 для всех t, где αˆ0 - оценка из анализа ограниченной модели.

Оцените градиент и информационную матрицу в модели с ограниченным доступом. Оцените ковариацию параметра путем инвертирования информационной матрицы.

e = y - phi10*lagmatrix(y,1);
eLag1Sq = lagmatrix(e,1).^2;
h0 = alpha00;
ft = (e(esI).^2/h0 - 1);
zt = [ones(T,1),eLag1Sq(esI)]';

score0 = 1/(2*h0)*zt*ft;        % Score function
InfoMat0 = (1/(2*h0^2))*(zt*zt');
EstParamCov0 = inv(InfoMat0);   % Estimated parameter covariance
dof = 1;                        % Number of model restrictions

Проверьте нулевую гипотезу, что α1 = 0 на уровне значимости 5%, используяlmtest.

[h,pValue] = lmtest(score0,EstParamCov0,dof)
h = logical
   1

pValue = 4.0443e-06

pValue близок к 0, что говорит о наличии доказательств отклонения модели ограниченного AR (1) в пользу модели неограниченного AR (1) с дисперсией ARCH (1).

Входные аргументы

свернуть все

Неограниченные градиенты средств к существованию модели, оцениваемые при ограниченных оценках параметров модели, указанных как вектор или вектор ячейки.

  • Для одного теста, score может быть p-вектором или одноэлементным клеточным массивом, содержащим p-by-1 вектор. p - количество параметров в неограниченной модели.

  • Для проведения k > 1 испытаний, score должен быть массивом длиной k ячеек. Ячейка j должна содержать один вектор pj-by-1, соответствующий одному независимому тесту. pj - количество параметров в неограниченной модели теста j.

Типы данных: double | cell

Оценка ковариации параметра, определяемая как симметричная матрица массива ячеек симметричных матриц. ParamCov является неограниченным оценщиком ковариации параметров модели, оцениваемым в ограниченных оценках параметров модели.

  • Для одного теста, ParamCov может представлять собой матрицу p-за-p или матрицу одиночных клеток, содержащую матрицу p-за-p. p - количество параметров в неограниченной модели.

  • Для проведения k > 1 испытаний, ParamCov должен быть массивом длиной k ячеек. Ячейка j должна содержать одну матрицу pj-за-pj, которая соответствует одному независимому тесту. pj - количество параметров в неограниченной модели теста j.

Типы данных: double | cell

Степени свободы для асимптотического, хи-квадратного распределения статистики теста, указанного как положительное целое число или вектор положительных целых чисел.

Для каждого соответствующего испытания элементы dof:

  • Количество ограничений модели

  • Должно быть меньше количества параметров в неограниченной модели

При проведении k > 1 испытаний,

  • Если dof является скаляром, то программное обеспечение расширяет его до вектора k-by-1.

  • Если dof является вектором, то он должен иметь длину k.

Номинальные уровни значимости для тестов гипотезы, определенные как скаляр или вектор.

Каждый элемент alpha должно быть больше 0 и меньше 1.

При проведении k > 1 испытаний,

  • Если alpha является скаляром, то программное обеспечение расширяет его до вектора k-by-1.

  • Если alpha является вектором, то он должен иметь длину k.

Типы данных: double

Выходные аргументы

свернуть все

Решения об отклонении теста, возвращаемые как логическое значение или вектор логических значений с длиной, равной количеству тестов, которые проводит программное обеспечение.

  • h = 1 указывает на отклонение нулевой ограниченной модели в пользу альтернативной неограниченной модели.

  • h = 0 указывает на отказ отклонить нулевую ограниченную модель.

Проверка статистических значений p, возвращаемых в виде скаляра или вектора с длиной, равной количеству тестов, которые проводит программное обеспечение.

Статистика тестов, возвращаемая в виде скаляра или вектора с длиной, равной количеству тестов, которые проводит программное обеспечение.

Критические значения, определенные alpha, возвращаемый как скаляр или вектор с длиной, равной количеству тестов, которые проводит программное обеспечение.

Подробнее

свернуть все

Тест множителя Лагранжа

В этом тесте сравниваются спецификации вложенных моделей путем оценки значимости ограничений для расширенной модели с неограниченными параметрами. Статистика теста (LM):

LM=S′VS,

где

  • S - градиент неограниченной функции средств к существованию, оцениваемый по оценкам ограниченных параметров (score), т.е.

    S=∂l (start) ∂θ'θ=θ^0,MLE.

  • V является оценщиком ковариации для неограниченных параметров модели, оцениваемых при ограниченных оценках параметров.

Если LM превышает критическое значение в своем асимптотическом распределении, то тест отклоняет нулевую ограниченную (вложенную) модель в пользу альтернативной неограниченной модели.

Асимптотическое распределение LM хи-квадрат. Его степени свободы (dof) - количество ограничений в соответствующем сравнении моделей. Номинальный уровень значимости теста (alpha) определяет критическое значение (cValue).

Совет

  • lmtest требует оценки неограниченной модели и оценки ковариации параметров, оцениваемой в оценках параметров для ограниченной модели. Например, для сравнения конкурирующих, вложенных arima модели:

    1. Аналитически вычислить оценку и параметр оценки ковариации на основе распределения инноваций.

    2. Использовать estimate для оценки ограниченных параметров модели.

    3. Оцените оценку и оценку ковариации в ограниченных оценках модели.

    4. Передать оцененный балл, оценку ограниченной ковариации и количество ограничений (то есть степеней свободы) в lmtest.

  • Если оценка параметров в неограниченной модели затруднена, используйте lmtest. Для сравнения:

    • waldtest требует только неограниченных оценок параметров.

    • lratiotest требует как неограниченных, так и ограниченных оценок параметров.

Алгоритмы

  • lmtest выполняет несколько независимых тестов, когда входы являются массивами ячеек.

    • Если градиенты и оценки ковариации одинаковы для всех тестов, но оценки ограниченных параметров различаются, то lmtest «тестирует» несколько моделей с ограниченным доступом.

    • Если градиенты и оценки ковариации различаются, а оценки ограниченных параметров нет, то lmtest «проверяет» несколько неограниченных моделей.

    • В противном случае lmtest сравнивает спецификации модели попарно.

  • alpha номинальный в том смысле, что он определяет вероятность отклонения в асимптотическом распределении. Фактическая вероятность отклонения может отличаться от номинальной значимости. Тесты множителя Лагранжа имеют тенденцию к недостаточному отклонению для малых значений alphaи чрезмерное отклонение для больших значений alpha.

    Тесты множителя Лагранжа обычно дают более низкие ошибки отклонения, чем тесты отношения правдоподобия и Вальда.

Ссылки

[1] Дэвидсон, Р. и Дж. Г. Маккиннон. Эконометрическая теория и методы. Оксфорд, Великобритания: Oxford University Press, 2004.

[2] Годфри, Л. Г. Missspecification Test in Econometrics. Кембридж, Великобритания: Cambridge University Press, 1997.

[3] Грин, В. Х. Эконометрический анализ. 6-я ред. Верхняя Седлая Река, Нью-Джерси: Пирсон Прентис Холл, 2008.

[4] Гамильтон, Дж. Д. Анализ временных рядов. Принстон, Нью-Джерси: Princeton University Press, 1994.

Представлен в R2009a