В контролируемом изучении ожидается что точки с подобными значениями предиктора , естественно имейте близкий ответ (цель) значения . В Гауссовых процессах функция ковариации описывает это подобие [1]. Это задает ковариацию между этими двумя скрытыми переменными и , где оба и d-by-1 векторы. Другими словами, это определяет как ответ однажды затронут ответами в других точках , i ≠ j, i = 1, 2..., n. Функция ковариации может быть задан различными функциями ядра. Это может быть параметрировано в терминах параметров ядра в векторе . Следовательно, возможно описать функцию ковариации как .
Для многих стандартных функций ядра параметры ядра основаны на стандартном отклонении сигнала и характеристическая шкала расстояний . Характеристические шкалы расстояний кратко задают как далеко независимо входные значения может быть для значений отклика, чтобы стать некоррелированым. Оба и должен быть больше 0, и это может быть осуществлено неограниченным вектором параметризации , таким образом, что
Встроенное ядро (ковариация) функции с той же шкалой расстояний для каждого предиктора:
Экспоненциальное ядро в квадрате
Это - одна из обычно используемых функций ковариации и является опцией по умолчанию для fitrgp
. Экспоненциальная функция ядра в квадрате задана как
где характеристическая шкала расстояний, и стандартное отклонение сигнала.
Экспоненциальное ядро
Можно задать экспоненциальную функцию ядра использование 'KernelFunction','exponential'
аргумент пары "имя-значение". Эта функция ковариации задана
где характеристическая шкала расстояний и
Евклидово расстояние между и .
Matern 3/2
Можно задать Matern 3/2 функция ядра использование 'KernelFunction','matern32'
аргумент пары "имя-значение". Эта функция ковариации задана
где
Евклидово расстояние между и .
Matern 5/2
Можно задать Matern 5/2 функция ядра использование 'KernelFunction','matern52'
аргумент пары "имя-значение". Matern 5/2 функция ковариации задан как
где
Евклидово расстояние между и .
Рациональное квадратичное ядро
Можно задать рациональную квадратичную функцию ядра использование 'KernelFunction','rationalquadratic'
аргумент пары "имя-значение". Эта функция ковариации задана
где характеристическая шкала расстояний, параметр смеси шкалы с положительным знаком, и
Евклидово расстояние между и .
Возможно использовать отдельную шкалу расстояний для каждого предиктора m, m = 1, 2..., d. Встроенное ядро (ковариация) функции с отдельной шкалой расстояний для каждого предиктора реализует автоматическое определение уместности (ARD) [2]. Неограниченная параметризация в этом случае
Встроенное ядро (ковариация) функции с отдельной шкалой расстояний для каждого предиктора:
ARD придал экспоненциальному ядру квадратную форму
Можно задать эту функцию ядра использование 'KernelFunction','ardsquaredexponential'
аргумент пары "имя-значение". Эта функция ковариации является экспоненциальной функцией ядра в квадрате с отдельной шкалой расстояний для каждого предиктора. Это задано как
Ядро экспоненциала ARD
Можно задать эту функцию ядра использование 'KernelFunction','ardexponential'
аргумент пары "имя-значение". Эта функция ковариации является экспоненциальной функцией ядра с отдельной шкалой расстояний для каждого предиктора. Это задано как
где
ARD Matern 3/2
Можно задать эту функцию ядра использование 'KernelFunction','ardmatern32'
аргумент пары "имя-значение". Этой функцией ковариации является Matern 3/2 функция ядра с различной шкалой расстояний для каждого предиктора. Это задано как
где
ARD Matern 5/2
Можно задать эту функцию ядра использование 'KernelFunction','ardmatern52'
аргумент пары "имя-значение". Этой функцией ковариации является Matern 5/2 функция ядра с различной шкалой расстояний для каждого предиктора. Это задано как
где
ARD рациональное квадратичное ядро
Можно задать эту функцию ядра использование 'KernelFunction','ardrationalquadratic'
аргумент пары "имя-значение". Эта функция ковариации является рациональной квадратичной функцией ядра с отдельной шкалой расстояний для каждого предиктора. Это задано как
Можно задать функцию ядра использование KernelFunction
аргумент пары "имя-значение" в вызове fitrgp
. Можно или задать одну из встроенных опций параметра ядра или задать пользовательскую функцию. При обеспечении начальных значений параметров ядра для встроенной функции ядра, вход начальные значения для стандартного отклонения сигнала и характеристической шкалы (шкал) расстояний как числовой вектор. При обеспечении начальных значений параметров ядра для пользовательской функции ядра, вход начальные значения неограниченный вектор параметризации . fitrgp
использует аналитические производные, чтобы оценить параметры при использовании встроенной функции ядра, тогда как при использовании пользовательского ядра функционируют, это использует числовые производные.
[1] Расмуссен, C. E. и К. К. Ай. Уильямс. Гауссовы процессы для машинного обучения. Нажатие MIT. Кембридж, Массачусетс, 2006.
[2] Нил, R. M. Байесово изучение для нейронных сетей. Спрингер, Нью-Йорк. Читайте лекции примечаниям в статистике, 118, 1996.