Одномерный рейтинг функций для регрессии с использованием F -tests
idx = fsrftest(Tbl,ResponseVarName)Tbl содержит переменные предиктора и переменную отклика, и ResponseVarName - имя переменной отклика в Tbl. Функция возвращается idx, который содержит индексы предикторов, упорядоченные по значимости предиктора, что означает idx(1) - индекс самого важного предиктора. Можно использовать idx чтобы выбрать важные предикторы для регрессионных задач.
idx = fsrftest(___,Name,Value)
Оцените предикторы в числовой матрице и создайте столбиковую диаграмму счетов предикторной важности.
Загрузите выборочные данные.
load robotarm.matThe robotarm набор данных содержит 7168 обучающих наблюдений (Xtrain и ytrain) и 1024 тестовых наблюдения (Xtest и ytest) с 32 функциями [1][2].
Оцените предикторы, используя обучающие наблюдения.
[idx,scores] = fsrftest(Xtrain,ytrain);
Значения в scores являются отрицательными журналами значений p. Если p-значение меньше eps(0), затем соответствующее значение баллов Inf. Перед созданием столбиковой диаграммы определите, scores ли включает Inf значения.
find(isinf(scores))
ans = 1x0 empty double row vector
scores не включает Inf значения. Если scores включает Inf значения можно заменить Inf по большому числу перед созданием столбиковой диаграммы в целях визуализации. Для получения дополнительной информации смотрите Rank Predictors в таблице.
Создайте столбиковую диаграмму предиктора важности счетов.
bar(scores(idx)) xlabel('Predictor rank') ylabel('Predictor importance score')
Выберите пять самых важных предикторов. Найдите столбцы этих предикторов в Xtrain.
idx(1:5)
ans = 1×5
30 24 10 4 5
30-ый столбец Xtrain является важнейшим предиктором ytrain.
Оцените предикторы в таблице и создайте столбиковую диаграмму предикторной важности счетов.
Если ваши данные находятся в таблице и fsrftest ранжирует подмножество переменных в таблице, затем функция индексирует переменные, используя только подмножество. Поэтому хорошей практикой является перемещение предикторов, которые вы не хотите ранжировать, в конец таблицы. Переместите переменную отклика и вектор веса наблюдения также. Затем индексы выходных аргументов согласуются с индексами таблицы. Вы можете переместить переменные в таблицу, используя movevars функция.
В этом примере используются данные Abalone, [3][4] из репозитория машинного обучения UCI [5]. Загрузите данные и сохраните их в текущей папке с именем 'abalone.data'.
Сохраните данные в таблице.
tbl = readtable('abalone.data','Filetype','text','ReadVariableNames',false); tbl.Properties.VariableNames = {'Sex','Length','Diameter','Height', ... 'WWeight','SWeight','VWeight','ShWeight','NoShellRings'};
Предварительный просмотр первых нескольких строк таблицы.
head(tbl)
ans=8×9 table
Sex Length Diameter Height WWeight SWeight VWeight ShWeight NoShellRings
_____ ______ ________ ______ _______ _______ _______ ________ ____________
{'M'} 0.455 0.365 0.095 0.514 0.2245 0.101 0.15 15
{'M'} 0.35 0.265 0.09 0.2255 0.0995 0.0485 0.07 7
{'F'} 0.53 0.42 0.135 0.677 0.2565 0.1415 0.21 9
{'M'} 0.44 0.365 0.125 0.516 0.2155 0.114 0.155 10
{'I'} 0.33 0.255 0.08 0.205 0.0895 0.0395 0.055 7
{'I'} 0.425 0.3 0.095 0.3515 0.141 0.0775 0.12 8
{'F'} 0.53 0.415 0.15 0.7775 0.237 0.1415 0.33 20
{'F'} 0.545 0.425 0.125 0.768 0.294 0.1495 0.26 16
Последняя переменная в таблице является переменной отклика.
Оцените предикторы в tbl. Задайте последний столбец NoShellRings как переменная отклика.
[idx,scores] = fsrftest(tbl,'NoShellRings')idx = 1×8
3 4 5 7 8 2 6 1
scores = 1×8
447.6891 736.9619 Inf Inf Inf 604.6692 Inf Inf
Значения в scores являются отрицательными журналами значений p. Если p-значение меньше eps(0), затем соответствующее значение баллов Inf. Перед созданием столбиковой диаграммы определите, scores ли включает Inf значения.
idxInf = find(isinf(scores))
idxInf = 1×5
3 4 5 7 8
scores включает пять Inf значения.
Создайте штриховой график с счетами важности предиктора. Используйте имена предикторов для меток такта по оси X.
bar(scores(idx)) xlabel('Predictor rank') ylabel('Predictor importance score') xticklabels(strrep(tbl.Properties.VariableNames(idx),'_','\_')) xtickangle(45)
The bar функция не строит графики для Inf значения. Для Inf значения, столбцы графика, которые имеют ту же длину, что и наибольший конечный счет.
hold on bar(scores(idx(length(idxInf)+1))*ones(length(idxInf),1)) legend('Finite Scores','Inf Scores') hold off
В гистограмму отображаются конечные счета и счета Inf с использованием различных цветов.
[1] Rasmussen, C. E., R. M. Neal, G. E. Hinton, D. van Camp, M. Revow, Z. Ghahramani, R. Kustra, and R. Tibshirani. Руководство DELVE, 1996.
[2] Университет Торонто, факультет компьютерных наук. Удаление наборов данных.
[3] Нэш, У. Дж., Т. Л. Селлерс, С. Р. Тальбот, А. Дж. Коуторн и У. Б. Форд. "Популяционная биология Абалоне (виды Haliotis) в Тасмании. I. Blacklip Abalone (H. rubra) с Северного побережья и островов пролива Басс ". Деление морского рыболовства, технический доклад № 48, 1994 год.
[4] Waugh, S. «Extending and Benchmarking Cascade-Correlation: Extensions to the Cascade-Correlation Architecture and Benchmarking of Feed-Forward Supervied Neural Networds». Тасманийский университет, кафедра компьютерных наук, 1995 год.
[5] Лихман, M. UCI Machine Learning Repository. Irvine, CA: University of California, School of Information and Computer Science, 2013. http://archive.ics.uci.edu/ml.