Регрессия частичных наименьших квадратов (PLS)
[ также возвращает:XL,YL,XS,YS,BETA,PCTVAR,MSE,stats] = plsregress(X,Y,ncomp)
Оценки предиктора XS. Оценки предиктора - это компоненты PLS, которые являются линейными комбинациями переменных в X.
Показатели ответа YS. Оценки ответов представляют собой линейные комбинации ответов, с которыми компоненты PLS XS имеют максимальную ковариацию.
Матрица BETA оценок коэффициентов для регрессии ПЛС. plsregress добавляет столбец единиц в матрицу X для вычисления оценок коэффициентов для модели с постоянными членами (перехват).
Процент отклонения PCTVAR объясняется регрессионной моделью.
Предполагаемые среднеквадратичные ошибки MSE для моделей PLS с ncomp компоненты.
Структура stats который содержит веса PLS, статистику T2, а также предикторы и остатки ответа.
[ указывает параметры, использующие один или несколько аргументов «имя-значение» в дополнение к любой из комбинаций входных аргументов в предыдущих синтаксисах. Аргументы «имя-значение» указывают XL,YL,XS,YS,BETA,PCTVAR,MSE,stats] = plsregress(___,Name,Value)MSE параметры расчета. Например, 'cv',5 вычисляет MSE с использованием пятикратной перекрестной проверки.
Загрузить spectra набор данных. Создание предиктора X в виде цифровой матрицы, которая содержит спектральные интенсивности ближнего инфракрасного диапазона (NIR) 60 образцов бензина на 401 длине волны. Создать ответ y в виде числового вектора, который содержит соответствующие октановые числа.
load spectra
X = NIR;
y = octane;Выполнить регрессию ПЛС с 10 компонентами ответов в y на предикторах в X.
[XL,yl,XS,YS,beta,PCTVAR] = plsregress(X,y,10);
Постройте график процента дисперсии, объясненной в переменной ответа (PCTVAR) в зависимости от количества компонентов.
plot(1:10,cumsum(100*PCTVAR(2,:)),'-bo'); xlabel('Number of PLS components'); ylabel('Percent Variance Explained in y');
Вычислите подогнанный отклик и отобразите остатки.
yfit = [ones(size(X,1),1) X]*beta; residuals = y - yfit; stem(residuals) xlabel('Observations'); ylabel('Residuals');
Вычислите значение переменной в оценках проекции (VIP) для модели регрессии с частичными наименьшими квадратами (PLS). Можно использовать VIP для выбора переменных-предикторов, когда среди переменных существует многомерность. Переменные с баллом VIP больше 1 считаются важными для проекции регрессионной модели PLS [3].
Загрузить spectra набор данных. Создание предиктора X в виде цифровой матрицы, которая содержит спектральные интенсивности ближнего инфракрасного диапазона (NIR) 60 образцов бензина на 401 длине волны. Создать ответ y в виде числового вектора, который содержит соответствующие октановые числа. Укажите количество компонентов ncomp.
load spectra
X = NIR;
y = octane;
ncomp = 10;Выполнить регрессию PLS с 10 компонентами ответов в y на предикторах в X.
[XL,yl,XS,YS,beta,PCTVAR,MSE,stats] = plsregress(X,y,ncomp);
Рассчитайте нормализованные веса PLS.
W0 = stats.W ./ sqrt(sum(stats.W.^2,1));
Расчет VIP-баллов для ncomp компоненты.
p = size(XL,1); sumSq = sum(XS.^2,1).*sum(yl.^2,1); vipScore = sqrt(p* sum(sumSq.*(W0.^2),2) ./ sum(sumSq,2));
Найдите переменные с оценкой VIP больше или равной 1.
indVIP = find(vipScore >= 1);
Постройте график VIP-оценок.
scatter(1:length(vipScore),vipScore,'x') hold on scatter(indVIP,vipScore(indVIP),'rx') plot([1 length(vipScore)],[1 1],'--k') hold off axis tight xlabel('Predictor Variables') ylabel('VIP Scores')
plsregress использует алгоритм SIMPLS [1]. Функция сначала центрирует X и Y вычитанием значения столбца для получения центрированных переменных предиктора и отклика X0 и Y0соответственно. Однако функция не выполняет масштабирование столбцов. Для выполнения регрессии ПЛС со стандартизированными переменными используйте zscore нормализовать X и Y (столбцы X0 и Y0 центрированы, чтобы иметь среднее значение 0, и масштабированы, чтобы иметь стандартное отклонение 1).
После центрирования X и Y, plsregress вычисляет разложение сингулярных значений (SVD) на X0'*Y0. Предиктор и нагрузки ответа XL и YL являются коэффициентами, полученными при регрессии X0 и Y0 на балле предиктора XS. Можно реконструировать центрированные данные X0 и Y0 использование XS*XL' и XS*YL'соответственно.
plsregress первоначально вычисляет YS как YS = Y0*YL. По конвенции [1], однако, plsregress затем ортогонализует каждый столбец YS по отношению к предыдущим столбцам XS, так что XS'*YS - нижняя треугольная матрица.
[1] де Йонг, Сиджмен. «SIMPLS: альтернативный подход к частичной регрессии методом наименьших квадратов». Хемометрия и интеллектуальные лабораторные системы 18, № 3 (март 1993 года): 251-63. https://doi.org/10.1016/0169-7439 (93) 85002-X.
[2] Росипал, Роман и Николь Крамер. «Обзор и последние изменения в частичных наименьших квадратах». Subpace, Latent Structure and Feature Selection: Statistics and Optimization Perspectives Workshop (SLSFS 2005), Revised Selected Papers (Lecture Notes in Computer Science 3940). Берлин, Германия: Springer-Verlag, 2006, том 3940, стр. 34-51. https://doi.org/10.1007/11752790_2.
[3] Chong, Il-Gyo и Chi-Hyuck Jun. «Производительность некоторых методов выбора переменных при наличии мультиколлинеарности». Хемометрия и интеллектуальные лабораторные системы 78, № 1-2 (июль 2005 года) 103-12. https://doi.org/10.1016/j.chemolab.2004.12.011.
pca | regress | sequentialfs