Документация

Аппроксимация функции ядра

Для точной модели GPR ожидаемое предсказание в GPR зависит от набора $$\mathcal{N}$$ функций $${\mathcal{}}_{\mathcal{SN}}=\{k{(}_x,xi\; \text{'}start\mathrm{)},\mathrm{}i=$$1,2,..., $$\mathcal{n}\},\mathrm{}\mathrm{}\mathrm{где}N=$$ {1,2,..., n} - набор индексов всех наблюдений, а n - общее число наблюдений. Идея заключается в аппроксимации диапазона этих функций меньшим набором $${\mathcal{}}_{\mathcal{}}$$функций$$\mathcal{},\mathcal{}SA\mathrm{,}\mathrm{}\mathrm{где}$$A⊂N={1,2,..., n} - подмножество индексов точек, выбранных для нахождения в активном $${\mathcal{}}_{\mathcal{}}множестве.{}_{}РассмотримSA\mathcal{}=$${k (x, xj 'start), j∈A}. Целью является $${\mathcal{}}_{\mathcal{аппроксимация}}$$ элементов SN в виде линейных комбинаций $${\mathcal{}}_{\mathcal{}}$$элементов SA.

Предположим, что аппроксимация k $$(x{,}_{}$$xr 'start) с использованием функций $${\mathcal{в}}_{\mathcal{}}$$SA выглядит следующим образом:

где $${}_{}\mathrm{cjr\in ℝ}$$ - коэффициенты линейной комбинации для аппроксимации $$k(x{,}_{}$$xr ' $$\mathrm{Предположим}$$, что C является матрицей, которая содержит все $${\mathrm{коэффициенты}}_{}$$cjr. Затем $$$$C представляет собой $$\mathcal{}|A$$ | × n матрицу, такую, $$\mathrm{что}C{}_{(j}$$, r) = cjr. Программа находит наилучшее приближение к $${\mathcal{}}_{\mathcal{}}$$элементам SN с помощью $$\mathcal{}\mathcal{}активного\mathrm{}\mathrm{}набора\mathrm{}$$A⊂N={1,2,..., n} путём минимизации функции ошибки

где $$\mathscr{H}$$ - воспроизводящее ядро гильбертовых пространств (RKHS), связанное с функцией ядра k [1], [2].

Матрица коэффициентов, которая минимизирует $$E\mathcal{(}A,$$C),

и аппроксимация функции ядра с использованием элементов в активном наборе $$\mathcal{}\mathcal{}\mathrm{}\mathrm{A\subset N=\{1,2},\mathrm{...},n$$} равно

Аппроксимация SR к функции ядра с использованием активного набора $$\mathcal{}\mathcal{}\mathrm{}\mathrm{A\subset N=\{1,2},\mathrm{...},n$$} определяется как:

и SR аппроксимация до $$K(X,$$X '

Оценка параметров

Заменение $$K(X,X\text{'}\theta$$) $${\stackrel{}{}}_{}K^SR(X,X\mathcal{\text{'}\theta },$$ A) в крайней функции вероятности регистрации производит свое приближение SR:

Как и в точном методе, программное обеспечение оценивает параметры, предварительно вычисляя $$\stackrel{}{\beta }^({\mathrm{start}}^{\mathrm{,}}$$start2), оптимальную оценку $$$$β, $$$$заданную startи $${}^{\mathrm{}}$$start2. Затем он $$$$оценивает start, $${}^{\mathrm{и}}$$ start2 с помощью $$$$β-профилированного маргинального логарифмического правдоподобия. Оценка SR $$$$до β для $$$$данного start, $${}^{\mathrm{и}}$$ start2 является:

где

И SR аппроксимация к $$$$β-профилированному предельному логарифмическому правдоподобию:

Прогноз

Аппроксимация SR для распределения $${}_{\mathrm{ynew}}$$, заданного $$y$$, $$X$$, $${}_{\mathrm{xnew}}$$, равна

где $${}_{\mathrm{мкSR}}$$ и $${}_{\mathrm{StartSR}}$$ - аппроксимации SR, которые $$$$$$$$показаны в прогнозе с использованием точного метода GPR.

$${}_{\mathrm{мкSR}}$$ и $${}_{\mathrm{StartSR}}$$ получают заменой $$k(x{,}_{}$$xr $${\stackrel{}{}}_{}{}_{}\mathcal{}$$$$$$$$$$'

То есть

С тех пор

а из того, что $${}_{\mathrm{IN}}\text{ −}{B(A+}^{B\mathrm{)}}\text{ −}{1=\text{ A}(}^{A\mathrm{}}$$+ $$B_{)}$$− 1, мкSR можно записать как

Точно так же $${}_{\mathrm{StartSR}}$$ получают следующим образом:

Поскольку

$${}_{\mathrm{StartSR}}$$ обнаруживается следующим образом:

Проблема предиктивной дисперсии

Один из недостатков метода SR заключается в том, что он может давать неоправданно малые предиктивные дисперсии при выполнении предсказаний в области, далёкой от выбранного активного множества $$\mathcal{}\mathcal{}\mathrm{}\mathrm{A\subset N=\{1,2},\mathrm{...},n$$}. Подумайте о том, чтобы сделать прогноз в новой точке $${}_{}$$xnew, которая находится далеко от обучающего набора $$$$X. Другими словами, предположим, что $$K{}_{(}^{}\mathrm{xnewT},\mathrm{X\; \text{'}start}$$) ≈0.

Для точного GPR задним распределением $${}_{\mathrm{fnew}}$$, заданного $$y$$, $$X$$ и $${}_{\mathrm{xnew}}$$, будет Normal со средним $$\lambda \mathrm{=}$$ 0 и $$\mathrm{дисперсией}\Lambda {=}_k({}_{\mathrm{xnew}},$$xnew 'start). Это значение является правильным в том смысле, $${\mathrm{что}}_{}$$если xnew находится далеко $$$$от X, то $$данные$$ (X, y) не предоставляют никакой новой информации $${}_{}$$о fnew, и поэтому апостериорное $${}_{\mathrm{распределение}}$$fnew, $$$$$$$$данное y, $$X_{}$$и xnew, должно быть уменьшено до предыдущего $${}_{}$$распределения fnew, $${}_{}$$заданного xnew, которое является нормальным распределением $$\mathrm{со}$$ средним значением 0 и $${}_{\mathrm{дисперсией}}{k}_{(}xnew$$, xnew 'start).

Для приближения SR, если $${}_{\mathrm{xnew}}$$ далеко от $$X$$ (и следовательно также далеко от $${}_{\mathcal{XA}}$$), то $${}_{}\mathrm{\mu SR=0}$$ и $${}_{}\mathrm{\Sigma SR=0}$$. Таким образом, в этом крайнем случае, $${}_{\mathrm{мкSR}}$$ согласуется с $$\lambda$$ из точного GPR, но $${}_{\mathrm{StartSR}}$$ необоснованно мал по сравнению с $$\Lambda$$ из точного GPR.

Полностью независимый метод условного приближения может помочь избежать этой проблемы.