Полностью Независимое условное приближение для моделей GPR

Приближение полностью независимого условного выражения (FIC) [1] является способом систематической аппроксимации истинной функции ядра GPR способом, которая избегает прогнозирующей проблемы отклонения приближения SR, все еще обеспечивая допустимый Гауссов процесс. Можно задать метод FIC для оценки параметра при помощи 'FitMethod','fic' аргумент пары "имя-значение" в вызове fitrgp. Для прогноза с помощью FIC можно использовать 'PredictMethod','fic' аргумент пары "имя-значение" в вызове fitrgp.

Аппроксимация функции ядра

Приближение FIC к k(xi,xj|θ) для активного набора AN={1,2,...,n} дают:

k^FIC(xi,xj|θ,A)=k^SR(xi,xj|θ,A)+δij(k(xi,xj|θ)k^SR(xi,xj|θ,A)),δij={1,если i=j,0если ij.

Таким образом, приближение FIC равно приближению SR если ijдля i=j, программное обеспечение использует точное значение ядра, а не приближение. Задайте n-by-n диагональная матрица Ω(X|θ,A) можно следующим образом:

[Ω(X|θ,A)]ij=δij(k(xi,xj|θ)k^SR(xi,xj|θ,A))={k(xi,xj|θ)k^SR(xi,xj|θ,A)если i=j,0если ij.

Приближение FIC к K(X,X|θ) затем дают:

K^FIC(X,X|θ,A)=K^SR(X,X|θ,A)+ Ω(X|θ,A)= K(X,XA|θ)K(XA,XA|θ)1K(XA,X|θ)+Ω(X|θ,A).

Оценка параметра

Заменяя K(X,X|θ) K^FIC(X,X|θ,A) в крайнем журнале функция правдоподобия производит свое приближение FIC:

журналPFIC(y|X,β,θ,σ2,A)=12(yHβ)T[K^FIC(X,X|θ,A)+σ2In]1(yHβ)N2журнал2π12журнал|K^FIC(X,X|θ,A)+σ2In|.

Как в точном методе, программное обеспечение оценивает параметры первым вычислением β^(θ,σ2), оптимальная оценка β, данный θ и σ2. Затем это оценивает θ, и σ2 использование β- профилируемая крайняя логарифмическая вероятность. Оценка FIC к β для данного θ, и σ2

β^FIC(θ,σ2,A)=[HT(K^FIC(X,X|θ,A)+σ2 IN)1H*]1HT(K^FIC(X,X|θ,A)+σ2 IN)1y**,

*=HTΛ(θ,σ2,A)1HHTΛ(θ,σ2,A)1K(X,XA|θ)BA1K(XA,X|θ)Λ(θ,σ2,A)1H,**=HTΛ(θ,σ2,A)1yHTΛ(θ,σ2,A)1K(X,XA|θ)BA1K(XA,X|θ)Λ(θ,σ2,A)1y,BA=K(XA,XA|θ)+K(XA,X|θ)Λ(θ,σ2,A)1K(X,XA|θ),Λ(θ,σ2,A)=Ω(X|θ,A)+σ2In.

Используя β^FIC(θ,σ2,A), β- профилируемая крайняя логарифмическая вероятность для приближения FIC:

журналPFIC(y|X,β^FIC(θ,σ2,A),θ,σ2,A)=12(yHβ^FIC(θ,σ2,A))T(K^FIC(X,X|θ,A)+σ2IN)1(yHβ^FIC(θ,σ2,A))N2журнал2π12журнал|K^FIC(X,X|θ,A)+σ2IN|,

где

(K^FIC(X,X|θ,A)+σ2IN)1=Λ(θ,σ2,A)1Λ(θ,σ2,A)1K(X,XA|θ)BA1K(XA,X|θ)Λ(θ,σ2,A)1,журнал|K^FIC(X,X|θ,A)+σ2IN|=журнал|Λ(θ,σ2,A)|+журнал|BA|журнал|K(XA,XA|θ)|.

Предсказание

Приближение FIC к распределению ynew данный y, X, xnew

P(ynew|y,X,xnew)=N(ynew|h(xnew)Tβ+μFIC,σnew2+ΣFIC),

где μFIC и ΣFIC приближения FIC к μ и Σ данный в прогнозе с помощью точного метода GPR. Как в случае SR, μFIC и ΣFIC получены, заменив все случаи истинного ядра его приближением FIC. Конечные формы μFIC и ΣFIC следующие:

μFIC= K(xnewT,XA|θ) BA1 K(XA,X|θ) Λ(θ,σ2,A)1(yHβ),

ΣFIC=k(xnew,xnew|θ)K(xnewT,XA|θ)K(XA,XA|θ)1K(XA,xnewT|θ)+K(xnewT,XA|θ)BA1K(XA,xnewT|θ),

где

BA=K(XA,XA|θ)+K(XA,X|θ)Λ(θ,σ2,A)1K(X,XA|θ),Λ(θ,σ2,A)=Ω(X|θ,A)+σ2In.

Ссылки

[1] Кандела, J. Q. Представление Объединения Разреженной Аппроксимированной Гауссовой Регрессии Процесса. Журнал Исследования Машинного обучения. Vol 6, стр 1939–1959, 2005.

Смотрите также

|

Похожие темы

Для просмотра документации необходимо авторизоваться на сайте