Ядро (ковариация) опции функции

В контролируемом изучении ожидается что точки с подобными значениями предиктора xi, естественно имейте близкий ответ (цель) значения yi. В Гауссовых процессах функция ковариации выражает это подобие [1]. Это задает ковариацию между этими двумя скрытыми переменными f(xi) и f(xj), где оба xi и xj d-by-1 векторы. Другими словами, это определяет как ответ однажды xi затронут ответами в других точках xj, ij, i = 1, 2..., n. Функция ковариации k(xi,xj) может быть задан различными функциями ядра. Это может быть параметризовано в терминах параметров ядра в векторе θ. Следовательно, возможно выразить функцию ковариации как k(xi,xj|θ).

Для многих стандартных функций ядра параметры ядра основаны на стандартном отклонении сигнала σf и характеристическая шкала расстояний σl. Характеристические шкалы расстояний кратко задают как далеко независимо входные значения xi может быть для значений ответа, чтобы стать некоррелированым. Оба σl и σf должен быть больше 0, и это может быть осуществлено неограниченным вектором параметризации θ, таким образом, что

θ1=журналσl,θ2=журналσf.

Встроенное ядро (ковариация) функции с той же шкалой расстояний для каждого предиктора:

  • Экспоненциальное ядро в квадрате

    Это - одна из обычно используемых функций ковариации и является опцией по умолчанию для fitrgp. Экспоненциальная функция ядра в квадрате задана как

    k(xi,xj|θ)=σf2exp[12(xi xj)T(xi xj)σl2].

    где σl характеристическая шкала расстояний, и σf стандартное отклонение сигнала.

  • Экспоненциальное ядро

    Можно задать экспоненциальную функцию ядра использование 'KernelFunction','exponential' аргумент пары "имя-значение". Эта функция ковариации задана

    k(xi,xj|θ)=σf2exp(rσl),

    где σl характеристическая шкала расстояний и

    r=(xi xj)T(xi xj)

    Евклидово расстояние между xi и xj.

  • Matern 3/2

    Можно задать Matern 3/2 функция ядра использование 'KernelFunction','matern32' аргумент пары "имя-значение". Эта функция ковариации задана

    k(xi,xj|θ)=σf2(1+3rσl)exp(3rσl),

    где

    r=(xi xj)T(xi xj)

    Евклидово расстояние между xi и xj.

  • Matern 5/2

    Можно задать Matern 5/2 функция ядра использование 'KernelFunction','matern52' аргумент пары "имя-значение". Matern 5/2 функция ковариации задан как

    k(xi,xj)=σf2(1+5rσl+5r23σl2)exp(5rσl),

    где

    r=(xi xj)T(xi xj)

    Евклидово расстояние между xi и xj.

  • Рациональное квадратичное ядро

    Можно задать рациональную квадратичную функцию ядра использование 'KernelFunction','rationalquadratic' аргумент пары "имя-значение". Эта функция ковариации задана

    k(xi,xj|θ)=σf2(1+r22ασl2)α,

    где σl характеристическая шкала расстояний, α параметр смеси шкалы с положительным знаком, и

    r=(xi xj)T(xi xj)

    Евклидово расстояние между xi и xj.

Возможно использовать отдельную шкалу расстояний σm для каждого предиктора m, m = 1, 2..., d. Встроенное ядро (ковариация) функции с отдельной шкалой расстояний для каждого предиктора реализует автоматическое определение уместности (ARD) [2]. Неограниченная параметризация θ в этом случае

θm=журналσm, for дляm=1,2,...,dθd+1=журналσf.

Встроенное ядро (ковариация) функции с отдельной шкалой расстояний для каждого предиктора:

  • ARD придал экспоненциальному ядру квадратную форму

    Можно задать эту функцию ядра использование 'KernelFunction','ardsquaredexponential' аргумент пары "имя-значение". Эта функция ковариации является экспоненциальной функцией ядра в квадрате с отдельной шкалой расстояний для каждого предиктора. Это задано как

    k(xi,xj|θ)=σf2exp[12m=1d(ximxjm)2σm2].

  • Ядро экспоненциала ARD

    Можно задать эту функцию ядра использование 'KernelFunction','ardexponential' аргумент пары "имя-значение". Эта функция ковариации является экспоненциальной функцией ядра с отдельной шкалой расстояний для каждого предиктора. Это задано как

    k(xi,xj|θ)=σf2exp(r),

    где

    r=m=1d(ximxjm)2σm2.

  • ARD Matern 3/2

    Можно задать эту функцию ядра использование 'KernelFunction','ardmatern32' аргумент пары "имя-значение". Этой функцией ковариации является Matern 3/2 функция ядра с различной шкалой расстояний для каждого предиктора. Это задано как

    k(xi,xj|θ)=σf2(1+3 r)exp(3 r),

    где

    r=m=1d(ximxjm)2σm2.

  • ARD Matern 5/2

    Можно задать эту функцию ядра использование 'KernelFunction','ardmatern52' аргумент пары "имя-значение". Этой функцией ковариации является Matern 5/2 функция ядра с различной шкалой расстояний для каждого предиктора. Это задано как

    k(xi,xj|θ)=σf2(1+5 r+53r2)exp(5 r),

    где

    r=m=1d(ximxjm)2σm2.

  • ARD рациональное квадратичное ядро

    Можно задать эту функцию ядра использование 'KernelFunction','ardrationalquadratic' аргумент пары "имя-значение". Эта функция ковариации является рациональной квадратичной функцией ядра с отдельной шкалой расстояний для каждого предиктора. Это задано как

    k(xi,xj|θ)=σf2(1+12αm=1d(ximxjm)2σm2)α.

Можно задать функцию ядра использование KernelFunction аргумент пары "имя-значение" в вызове fitrgp. Можно или задать одну из встроенных опций параметра ядра или задать пользовательскую функцию. При обеспечении начальных значений параметров ядра для встроенной функции ядра, вход начальные значения для стандартного отклонения сигнала и характеристической шкалы (шкал) расстояний как числовой вектор. При обеспечении начальных значений параметров ядра для пользовательской функции ядра, вход начальные значения неограниченный вектор параметризации θ. fitrgp использует аналитические производные, чтобы оценить параметры при использовании встроенной функции ядра, тогда как при использовании пользовательского ядра функционируют, это использует числовые производные.

Ссылки

[1] Расмуссен, C. E. и К. К. Ай. Уильямс. Гауссовы процессы для машинного обучения. Нажатие MIT. Кембридж, Массачусетс, 2006.

[2] Нил, R. M. Байесово изучение для нейронных сетей. Спрингер, Нью-Йорк. Читайте лекции примечаниям в статистике, 118, 1996.

Смотрите также

|

Похожие темы

Для просмотра документации необходимо авторизоваться на сайте