Класс: TreeBagger
Потери квантилей с использованием пакета деревьев регрессии
err = quantileError(Mdl,X)X к прогнозируемым средам, возникающим в результате применения мешка регрессионных деревьев Mdl к наблюдениям данных предиктора в X.
Mdl должно быть TreeBagger объект модели.
Имя переменной ответа в X должно иметь то же имя, что и переменная ответа в таблице, содержащей данные обучения.
err = quantileError(Mdl,X,ResponseVarName)X. ResponseVarName - имя переменной ответа и Mdl.PredictorNames содержат имена переменных предиктора.
err = quantileError(___,Name,Value)Name,Value аргументы пары. Например, укажите вероятности квантилей, тип ошибки или деревья, которые следует включить в оценку ошибки квантилей-регрессии.
Загрузить carsmall набор данных. Рассмотрим модель, которая предсказывает экономию топлива автомобиля, учитывая его рабочий объем двигателя, вес и количество цилиндров. Рассмотреть Cylinders категориальная переменная.
load carsmall
Cylinders = categorical(Cylinders);
X = table(Displacement,Weight,Cylinders,MPG);Обучение ансамбля пакетных регрессионных деревьев с использованием всего набора данных. Укажите 100 слабых учеников.
rng(1); % For reproducibility Mdl = TreeBagger(100,X,'MPG','Method','regression');
Mdl является TreeBagger ансамбль.
Выполните квантильную регрессию и оцените MAD всего ансамбля, используя предсказанные условные медианы.
err = quantileError(Mdl,X)
err = 1.2339
Поскольку X - таблица, содержащая имена откликов и соизмеримых переменных, имя или данные переменной откликов указывать не требуется. Однако вы можете указать ответ, используя этот синтаксис.
err = quantileError(Mdl,X,'MPG')err = 1.2339
Загрузить carsmall набор данных. Рассмотрим модель, которая предсказывает экономию топлива автомобиля, учитывая его рабочий объем двигателя, вес и количество цилиндров.
load carsmall
X = table(Displacement,Weight,Cylinders,MPG);Случайное разделение данных на два набора: 75% обучения и 25% тестирования. Извлеките индексы подмножеств.
rng(1); % For reproducibility cvp = cvpartition(size(X,1),'Holdout',0.25); idxTrn = training(cvp); idxTest = test(cvp);
Тренируйте ансамбль пакетных регрессионных деревьев с помощью обучающего набора. Укажите 250 слабых учеников.
Mdl = TreeBagger(250,X(idxTrn,:),'MPG','Method','regression');
Оцените суммарные ошибки регрессии квантилей 0,25, 0,5 и 0,75 для тестового набора. Передайте данные предиктора в виде числовой матрицы, а данные ответа в виде вектора.
err = quantileError(Mdl,X{idxTest,1:3},MPG(idxTest),'Quantile',[0.25 0.5 0.75],...
'Mode','cumulative');err является матрицей 250 на 3 кумулятивных ошибок регрессии квантиля. Столбцы соответствуют вероятностям квантилей, а строки - деревьям в ансамбле. Ошибки являются кумулятивными, поэтому они включают агрегированные прогнозы предыдущих деревьев. Хотя, Mdl был обучен с использованием таблицы, если все переменные предиктора в таблице числовые, то вместо этого можно предоставить матрицу данных предиктора.
Постройте график кумулятивных ошибок квантиля на том же графике.
figure; plot(err); legend('0.25 quantile error','0.5 quantile error','0.75 quantile error'); ylabel('Quantile error'); xlabel('Tree index'); title('Cumulative Quantile Regression Error')
Тренировок с использованием около 60 деревьев, по-видимому, достаточно для первых двух квартилей, но для третьего квартиля требуется около 150 деревьев.
Чтобы настроить количество деревьев в ансамбле, установите 'Mode','cumulative' и строят график ошибок регрессии квантиля относительно индексов дерева. Максимальное число требуемых деревьев - это индекс дерева, где ошибка регрессии квантиля, по-видимому, выравнивается.
Чтобы исследовать производительность модели, когда обучающий образец невелик, используйте oobQuantileError вместо этого.
[1] Брейман, Л. Случайные леса. Машинное обучение 45, стр. 5-32, 2001.
[2] Мейнсхаузен, Н. «Квантильные регрессионные леса». Журнал исследований машинного обучения, том 7, 2006, стр. 983-999.