Класс: TreeBagger
Потеря квантиля с помощью мешка деревьев регрессии
err = quantileError(Mdl,X)X к предсказанным медианам, следующим из применения мешка деревьев регрессии Mdl к наблюдениям за данными о предикторе в X.
Mdl должен быть TreeBagger объект модели.
Имя переменной отклика в X должен иметь то же имя как переменная отклика в таблице, содержащей обучающие данные.
err = quantileError(Mdl,X,ResponseVarName)X. ResponseVarName имя переменной отклика и Mdl.PredictorNames содержите имена переменных предикторов.
err = quantileError(___,Name,Value)Name,Value парные аргументы. Например, задайте вероятности квантиля, ошибочный тип, или который деревья включать в оценку погрешности регрессии квантиля.
Загрузите carsmall набор данных. Рассмотрите модель, которая предсказывает экономию топлива автомобиля, учитывая его объем двигателя, вес и количество цилиндров. Рассмотрите Cylinders категориальная переменная.
load carsmall
Cylinders = categorical(Cylinders);
X = table(Displacement,Weight,Cylinders,MPG);Обучите ансамбль сложенных в мешок деревьев регрессии с помощью целого набора данных. Задайте 100 слабых учеников.
rng(1); % For reproducibility Mdl = TreeBagger(100,X,'MPG','Method','regression');
Mdl TreeBagger ансамбль.
Выполните регрессию квантиля и оцените MAD целого ансамбля, использующего предсказанные условные медианы.
err = quantileError(Mdl,X)
err = 1.2586
Поскольку X таблица, содержащая ответ и соразмерные имена переменных, вы не должны задавать имя переменной отклика или данные. Однако можно задать ответ с помощью этого синтаксиса.
err = quantileError(Mdl,X,'MPG')err = 1.2586
Загрузите carsmall набор данных. Рассмотрите модель, которая предсказывает экономию топлива автомобиля, учитывая его объем двигателя, вес и количество цилиндров.
load carsmall
X = table(Displacement,Weight,Cylinders,MPG);Случайным образом разделите данные в два набора: 75%-е учебное и 25%-е тестирование. Извлеките индексы подмножества.
rng(1); % For reproducibility cvp = cvpartition(size(X,1),'Holdout',0.25); idxTrn = training(cvp); idxTest = test(cvp);
Обучите ансамбль сложенных в мешок деревьев регрессии с помощью набора обучающих данных. Задайте 250 слабых учеников.
Mdl = TreeBagger(250,X(idxTrn,:),'MPG','Method','regression');
Оцените совокупные 0.25, 0.5, и 0,75 ошибки регрессии квантиля для набора тестов. Передайте данные о предикторе в как числовая матрица и данные об ответе в как вектор.
err = quantileError(Mdl,X{idxTest,1:3},MPG(idxTest),'Quantile',[0.25 0.5 0.75],...
'Mode','cumulative');err 250 3 матрица совокупных ошибок регрессии квантиля. Столбцы соответствуют вероятностям квантиля, и строки соответствуют деревьям в ансамбле. Ошибки совокупны, таким образом, они включают агрегированные предсказания от предыдущих деревьев. Несмотря на то, что, Mdl был обучен с помощью таблицы, если все переменные предикторы в таблице являются числовыми, то можно предоставить матрицу данных о предикторе вместо этого.
Постройте совокупные ошибки квантиля на том же графике.
figure; plot(err); legend('0.25 quantile error','0.5 quantile error','0.75 quantile error'); ylabel('Quantile error'); xlabel('Tree index'); title('Cumulative Quantile Regression Error')
Обучение с помощью приблизительно 60 деревьев, кажется, достаточно для первых двух квартилей, но третий квартиль требует приблизительно 150 деревьев.
Чтобы настроить количество деревьев в ансамбле, установите 'Mode','cumulative' и постройте ошибки регрессии квантиля относительно древовидных индексов. Максимальное количество необходимых деревьев является древовидным индексом, где ошибка регрессии квантиля, кажется, выравнивается.
Чтобы исследовать производительность модели, когда обучающая выборка будет мала, используйте oobQuantileError вместо этого.
[1] Бреимен, L. Случайные Леса. Машинное обучение 45, стр 5–32, 2001.
[2] Meinshausen, N. “Леса Регрессии квантиля”. Журнал Исследования Машинного обучения, Издания 7, 2006, стр 983–999.