exponenta event banner

Полностью независимое условное приближение для моделей GPR

Полностью независимое условное приближение (FIC) [1] - это способ систематической аппроксимации истинной функции ядра GPR таким образом, чтобы избежать прогностической дисперсионной проблемы аппроксимации SR при сохранении действительного гауссова процесса. Можно указать метод FIC для оценки параметров с помощью 'FitMethod','fic' аргумент пары имя-значение в вызове fitrgp. Для прогнозирования с использованием FIC можно использовать 'PredictMethod','fic' аргумент пары имя-значение в вызове fitrgp.

Аппроксимация функции ядра

Приближением FIC к k (xi, xj ) для активного набора A⊂N = {1,2..., n} дают :

k^FIC (xi, xj , A) =k^SR (xi, xj , A) + δij (k (xi, xj ) −k^SR (xi, xj , A)), δij = {1, если i=j, 0if i≠j.

То есть аппроксимация FIC равна аппроксимации SR, если i≠j. Для i = j программное обеспечение использует точное значение ядра, а не аппроксимацию. Определите n-на-n диагональную матрицу Λ (X 'start, A) следующим образом:

[Ω (X , A)] ij =δij (k (xi, xj ) −k^SR (xi, xj , A)) = {k (xi, xj ) −k^SR (xi, xj , A), если i=j, 0if i≠j.

Аппроксимация FIC до K (X, X '

K^FIC (X, X , A) =K^SR (X, X , A) + Ω (X  'θ, A) = K (X, XA ) K (XA, XA ) −1K (XA, X ) + Ω (X 'θ, A).

Оценка параметров

Заменение K (X, X ) K^FIC (X, X , A) в крайней функции вероятности регистрации производит свое приближение FIC:

LogPIC (y 'X, β, λ, start2, A) = 12 (y ) T [K ^ FIC (X, X' start, A) + σ2In] − 1 (y ) N2log2π − 12log 'K ^ FIC (X, X' start, A) + σ2In |.

Как и в точном методе, программное обеспечение оценивает параметры, предварительно вычисляя β ^ (start, start2), оптимальную оценку β, заданную startи start2. Затем он оценивает start, и start2 с помощью β-профилированного маргинального логарифмического правдоподобия. Оценка FIC до β для данного

β^FIC (θ,σ2, A) = [HT (K^FIC (X, X , A ) + σ2 В) −1H *]−1HT (K^FIC (X, X , A) + σ2 В) −1y ︸ **,

* = HTΛ (θ,σ2, A) −1H−HTΛ (θ,σ2, A) −1K (X, XA ) BA−1K (XA, X ) Λ (θ,σ2, A) −1H, ** =HTΛ (θ,σ2, A) −1y−HTΛ (θ,σ2, A) −1K (X, XA ) BA−1K (XA, X ) Λ (θ,σ2, A) −1y, BA=K (XA, XA ) +K (XA, X ) Λ (θ,σ2, A) −1K (X, XA 'θ),Λ (θ,σ2, A) = Ω (X 'θ, A) + σ2In.

При использовании β ^ FIC (start, start2, A) предельное логарифмическое вероятность β-профилирования для аппроксимации FIC составляет:

logPFIC (y'X, β^FIC (θ,σ2, A), θ,σ2, A) = −12 (y−Hβ^FIC (θ,σ2, A)) T (K^FIC (X, X , A) + σ2IN) −1 (y−Hβ^FIC ,σ2, A)) −N2log2π−12log'K^FIC (X, X 'θ, A) + σ2IN |,

где

(K^FIC (X, X , A) + σ2IN), −1 = Λ (θ,σ2, A) −1−Λ (θ,σ2, A) −1K (X, XA ) BA−1K (XA, X ) Λ ,σ2, A) −1, log'K^FIC (X, X 'θ, A) + σ2IN | = регистрируют (θ,σ2, A) | +log'BA |−log'K (XA, XA 'θ) |.

Прогноз

Аппроксимация FIC к распределению ynew с помощью y, X, xnew

P (ynew 'y, X, xnew) = N (ynew' h (xnew) +

где мкФИК и StartФИК - аппроксимации ФИК, заданные в прогнозе с использованием точного метода ГПР. Как и в случае с SR, мкФИК и StartFIC получают заменой всех вхождений истинного ядра его аппроксимацией ФИК. Конечными формами мкФИК и StartФИК являются следующие:

μFIC = K (xnewT, XA  )  BA−1 K (XA, X  'θ) Λ (θ,σ2, A) −1 (y−Hβ),

ΣFIC=k (xnew, xnew ) −K (xnewT, XA ) K (XA, XA ) −1K (XA, xnewT 'θ) +K (xnewT, XA ) BA−1K (XA, xnewT 'θ),

где

BA=K (XA, XA ) +K (XA, X ) Λ (θ,σ2, A) −1K (X, XA )(θ,σ2, A) = Ω (X 'θ, A) + σ2In.

Ссылки

[1] Кандела, J. Q. «Объединяющий взгляд на разреженную приблизительную гауссову регрессию процесса». Журнал исследований машинного обучения. Том 6, стр. 1939 - 1959, 2005.

См. также

|

Связанные темы