Одномерное ранжирование элементов для регрессии с использованием F-тестов
idx = fsrftest(Tbl,ResponseVarName)Tbl содержит переменные предиктора и переменную ответа, и ResponseVarName - имя переменной ответа в Tbl. Функция возвращает idx, который содержит индексы предикторов, упорядоченные по важности предиктора, что означает idx(1) является индексом самого важного предиктора. Вы можете использовать idx чтобы выбрать важные предикторы для проблем регрессии.
idx = fsrftest(___,Name,Value)
Ранжируйте предикторы в числовой матрице и создайте гистограмму показателей важности предикторов.
Загрузите образцы данных.
load robotarm.mat robotarm набор данных содержит 7168 учебных наблюдений (Xtrain и ytrain) и 1024 контрольных наблюдения (Xtest и ytest) с 32 функциями [1][2].
Ранжируйте предикторы, используя обучающие наблюдения.
[idx,scores] = fsrftest(Xtrain,ytrain);
Значения в scores являются отрицательными журналами p-значений. Если значение p меньше, чем eps(0), то соответствующее значение оценки равно Inf. Перед созданием штрих-графика определите, scores включает Inf значения.
find(isinf(scores))
ans = 1x0 empty double row vector
scores не включает Inf значения. Если scores включает Inf значения, можно заменить Inf большим числовым числом перед созданием штрих-графика в целях визуализации. Дополнительные сведения см. в разделе Предикторы ранга в таблице.
Создайте штрих-график показателей важности предиктора.
bar(scores(idx)) xlabel('Predictor rank') ylabel('Predictor importance score')
Выберите пять наиболее важных предикторов. Найдите столбцы этих предикторов в Xtrain.
idx(1:5)
ans = 1×5
30 24 10 4 5
30-я колонна Xtrain является наиболее важным предиктором ytrain.
Ранжирование предикторов в таблице и создание штрих-графика показателей важности предикторов.
Если данные находятся в таблице и fsrftest ранжирует подмножество переменных в таблице, затем функция индексирует переменные, используя только подмножество. Поэтому рекомендуется переместить предикторы, которые не нужно ранжировать, в конец таблицы. Переместите также переменную отклика и весовой вектор наблюдения. Затем индексы выходных аргументов согласуются с индексами таблицы. Можно перемещать переменные в таблице с помощью movevars функция.
В этом примере используется [3][4] данных Abalone из репозитария машинного обучения UCI [5]. Загрузите данные и сохраните их в текущей папке с именем 'abalone.data'.
Сохраните данные в таблице.
tbl = readtable('abalone.data','Filetype','text','ReadVariableNames',false); tbl.Properties.VariableNames = {'Sex','Length','Diameter','Height', ... 'WWeight','SWeight','VWeight','ShWeight','NoShellRings'};
Предварительный просмотр первых нескольких строк таблицы.
head(tbl)
ans=8×9 table
Sex Length Diameter Height WWeight SWeight VWeight ShWeight NoShellRings
_____ ______ ________ ______ _______ _______ _______ ________ ____________
{'M'} 0.455 0.365 0.095 0.514 0.2245 0.101 0.15 15
{'M'} 0.35 0.265 0.09 0.2255 0.0995 0.0485 0.07 7
{'F'} 0.53 0.42 0.135 0.677 0.2565 0.1415 0.21 9
{'M'} 0.44 0.365 0.125 0.516 0.2155 0.114 0.155 10
{'I'} 0.33 0.255 0.08 0.205 0.0895 0.0395 0.055 7
{'I'} 0.425 0.3 0.095 0.3515 0.141 0.0775 0.12 8
{'F'} 0.53 0.415 0.15 0.7775 0.237 0.1415 0.33 20
{'F'} 0.545 0.425 0.125 0.768 0.294 0.1495 0.26 16
Последняя переменная в таблице является переменной ответа.
Ранг предикторов в tbl. Укажите последний столбец NoShellRings в качестве переменной ответа.
[idx,scores] = fsrftest(tbl,'NoShellRings')idx = 1×8
3 4 5 7 8 2 6 1
scores = 1×8
447.6891 736.9619 Inf Inf Inf 604.6692 Inf Inf
Значения в scores являются отрицательными журналами p-значений. Если значение p меньше, чем eps(0), то соответствующее значение оценки равно Inf. Перед созданием штрих-графика определите, scores включает Inf значения.
idxInf = find(isinf(scores))
idxInf = 1×5
3 4 5 7 8
scores включает пять Inf значения.
Создайте штрих-график с показателями важности предиктора. Используйте имена предикторов для меток засечек по оси X.
bar(scores(idx)) xlabel('Predictor rank') ylabel('Predictor importance score') xticklabels(strrep(tbl.Properties.VariableNames(idx),'_','\_')) xtickangle(45)
bar функция не строит полосы для Inf значения. Для Inf значения, планки графика, имеющие ту же длину, что и наибольший конечный балл.
hold on bar(scores(idx(length(idxInf)+1))*ones(length(idxInf),1)) legend('Finite Scores','Inf Scores') hold off
На гистограмме отображаются конечные оценки и оценки Inf с использованием различных цветов.
[1] Расмуссен, К. Э., Р. М. Нил, Г. Э. Хинтон, Д. ван Кэмп, М. Ревоу, З. Гахрамани, Р. Кюста и Р. Тибширани. Руководство DELVE, 1996.
[2] Университет Торонто, факультет компьютерных наук. Наборы данных Delve.
[3] Нэш, У. Джей, Т. Л. Селлерс, С. Р. Толбот, А. Дж. Коуторн и У. Б. Форд. "Популяционная биология Абалоне (вид Haliotis) в Тасмании. И. Блэклип Абалоне (Х. рубра) с Северного побережья и островов Бассова пролива ". Отдел морского рыболовства, Технический доклад № 48, 1994 год.
[4] Во, С. «Расширение и сравнительный анализ каскадной корреляции: расширение каскадно-корреляционной архитектуры и сравнительный анализ искусственных нейронных сетей, находящихся под контролем Feed-Forward». Факультет компьютерных наук Тасманийского университета, 1995 год.
[5] Лихман, M. UCI Machine Learning Repository. Ирвин, Калифорния, Калифорнийский университет, Школа информации и компьютерных наук, 2013 год. http://archive.ics.uci.edu/ml.