Класс: TreeBagger
Потеря квантиля с помощью сумки деревьев регрессии
err = quantileError(Mdl,X)X к предсказанным медианам, возникающим в результате применения мешка регрессионых деревьев Mdl к наблюдениям данных предиктора в X.
Mdl должен быть TreeBagger объект модели.
Имя переменной отклика в X должно иметь то же имя, что и переменная отклика в таблице, содержащей обучающие данные.
err = quantileError(Mdl,X,ResponseVarName)X. ResponseVarName - имя переменной отклика и Mdl.PredictorNames содержат имена переменных предиктора.
err = quantileError(___,Name,Value)Name,Value аргументы в виде пар. Для примера задайте вероятности величины, тип ошибки или какие деревья включить в оценку ошибки регрессии величины.
Загрузите carsmall набор данных. Рассмотрим модель, которая предсказывает экономию топлива автомобиля, учитывая его объем, вес и количество цилиндров. Рассмотрим Cylinders категориальная переменная.
load carsmall
Cylinders = categorical(Cylinders);
X = table(Displacement,Weight,Cylinders,MPG);Обучите ансамбль мешанных регрессионных деревьев, используя весь набор данных. Укажите 100 слабых учащихся.
rng(1); % For reproducibility Mdl = TreeBagger(100,X,'MPG','Method','regression');
Mdl является TreeBagger ансамбль.
Выполните регрессию квантиля и оцените MAD всего ансамбля с помощью предсказанных условных медиан.
err = quantileError(Mdl,X)
err = 1.2339
Потому что X - таблица, содержащая ответ и соразмерные имена переменных, вы не должны указывать имя или данные переменной ответа. Однако можно задать ответ с помощью этого синтаксиса.
err = quantileError(Mdl,X,'MPG')err = 1.2339
Загрузите carsmall набор данных. Рассмотрим модель, которая предсказывает экономию топлива автомобиля, учитывая его объем, вес и количество цилиндров.
load carsmall
X = table(Displacement,Weight,Cylinders,MPG);Случайным образом разделите данные на два набора: 75% обучение и 25% проверка. Извлеките индексы подмножества.
rng(1); % For reproducibility cvp = cvpartition(size(X,1),'Holdout',0.25); idxTrn = training(cvp); idxTest = test(cvp);
Обучите ансамбль мешанных регрессионных деревьев с помощью набора обучающих данных. Укажите 250 слабых учащихся.
Mdl = TreeBagger(250,X(idxTrn,:),'MPG','Method','regression');
Оцените совокупные ошибки регрессии квантиля 0,25, 0,5 и 0,75 для тестового набора. Передайте данные предиктора в виде числовой матрицы, а данные отклика в виде вектора.
err = quantileError(Mdl,X{idxTest,1:3},MPG(idxTest),'Quantile',[0.25 0.5 0.75],...
'Mode','cumulative');err является 250 на 3 матрицей совокупных ошибок регрессии квантиля. Столбцы соответствуют квантильным вероятностям, а строки соответствуют деревьям в ансамбле. Ошибки совокупны, поэтому они включают агрегированные предсказания из предыдущих деревьев. Хотя, Mdl был обучен с помощью таблицы, если все переменные предиктора в таблице числовые, то можно вместо этого задать матрицу данных предиктора.
Постройте график совокупных ошибок квантиля на том же графике.
figure; plot(err); legend('0.25 quantile error','0.5 quantile error','0.75 quantile error'); ylabel('Quantile error'); xlabel('Tree index'); title('Cumulative Quantile Regression Error')
Тренировок с использованием около 60 деревьев, кажется, достаточно для первых двух квартилей, но третий квартиль требует около 150 деревьев.
Чтобы настроить количество деревьев в ансамбле, установите 'Mode','cumulative' и постройте график ошибок регрессии квантиля относительно древовидных индексов. Максимальное количество необходимых деревьев является древовидным индексом, где ошибка регрессии квантиля выглядит выключенной.
Чтобы исследовать эффективность модели, когда обучающая выборка небольшая, используйте oobQuantileError вместо этого.
[1] Breiman, L. Random Forests. Машинное обучение 45, стр. 5-32, 2001.
[2] Meinshausen, N. «Quantle Regression Forests». Journal of Машинное Обучение Research, Vol. 7, 2006, pp. 983-999.