Обучите регрессионное дерево с помощью carsmall Данные и создайте PDP, который показывает связь между функцией и предсказанными откликами в обученном дереве регрессии.

Загрузите carsmall набор данных.

load carsmall

Задайте Weight, Cylinders, и Horsepower как переменные предиктора (X), и MPG как переменная отклика (Y).

X = [Weight,Cylinders,Horsepower];
Y = MPG;

Обучите регрессионное дерево с помощью X и Y.

Mdl = fitrtree(X,Y);

Просмотр графического отображения обученного регрессионного дерева.

view(Mdl,'Mode','graph')

Создайте PDP первой переменной предиктора, Weight.

plotPartialDependence(Mdl,1)

Эта построенная линия представляет усредненные частичные отношения между Weight (маркируется как x1) и MPG (маркируется как Y) в обученном регрессионном дереве Mdl. The x-sis minor ticks представляют уникальные значения в x1.

Средство просмотра регрессионного дерева показывает, что первым решением является x1 меньше 3085,5. PDP также показывает большое изменение около x1 = 3085.5. Средство просмотра дерева визуализирует каждое решение в каждом узле на основе переменных предиктора. Вы можете найти несколько узлов, разделенных на основе значений x1, но определяющий зависимость Y на x1 не легко. Однако plotPartialDependence графики средние предсказанные отклики против x1, так что вы четко видите частичную зависимость Y на x1.

Метки x1 и Y являются значениями по умолчанию для имен предиктора и имени отклика. Можно изменить эти имена, задав аргументы пары "имя-значение" 'PredictorNames' и 'ResponseName' когда вы обучаете Mdl использование fitrtree. Можно также изменять подписи по осям при помощи xlabel и ylabel функций.

Обучите наивную модель классификации Байеса с fisheriris набор данных и создайте PDP, который показывает связь между переменной предиктора и предсказанными счетами (апостериорные вероятности) для нескольких классов.

Загрузите fisheriris набор данных, который содержит виды (species) и измерения (meas) на длину чашелистика, ширину чашелистика, длину лепестка и ширину лепестка для 150 образцов радужки. Набор данных содержит 50 экземпляров каждого из трех видов: сетоза, версиколор и виргиника.

load fisheriris

Обучите наивную модель классификации Байеса с species как ответ и meas как предикторы.

Mdl = fitcnb(meas,species);

Создайте PDP из счетов, предсказанных Mdl для всех трех классов species против третьей переменной предиктора x3. Задайте метки классов при помощи ClassNames свойство Mdl.

plotPartialDependence(Mdl,3,Mdl.ClassNames);

Согласно этой модели, вероятность virginica увеличивается с x3. Вероятность setosa составляет около 0,33, откуда x3 от 0 до около 2,5, и затем вероятность падает почти до 0.

Обучите регрессионую модель Гауссова процесса, используя сгенерированные выборочные данные, где переменная отклика включает взаимодействия между переменными предиктора. Затем создайте графики ICE, которые показывают связь между функцией и предсказанными откликами для каждого наблюдения.

Сгенерируйте данные предиктора выборки x1 и x2.

rng('default') % For reproducibility
n = 200;
x1 = rand(n,1)*2-1;
x2 = rand(n,1)*2-1;

Сгенерируйте значения отклика, которые включают взаимодействия между x1 и x2.

Y = x1-2*x1.*(x2>0)+0.1*rand(n,1);

Создайте регрессионую модель Гауссова процесса с помощью [x1 x2] и Y.

Mdl = fitrgp([x1 x2],Y);

Создайте рисунок, включая PDP (красная линия) для первого предиктора x1, график поля точек (круговые маркеры) x1 и предсказанные отклики, и набор графиков ICE (серые линии) путем определения 'Conditional' как 'centered'.

plotPartialDependence(Mdl,1,'Conditional','centered')

Когда 'Conditional' является 'centered', plotPartialDependence смещает графики так, чтобы все графики начинались с нуля, что полезно при рассмотрении совокупного эффекта выбранной функции.

PDP находит усредненные отношения, поэтому не обнаруживает скрытых зависимостей, особенно когда отклики включают взаимодействия между функциями. Однако графики ICE четко показывают две различные зависимости откликов от x1.

Обучите ансамбль классификационных моделей и создайте два PDP, один с использованием обучающих данных, а другой с помощью нового набора данных.

Загрузите census1994 набор данных, который содержит годовые данные о зарплате в США, классифицированный как <=50K или >50Kи несколько демографических переменных.

load census1994

Извлеките подмножество переменных для анализа из таблиц adultdata и adulttest.

X = adultdata(:,{'age','workClass','education_num','marital_status','race', ...
   'sex','capital_gain','capital_loss','hours_per_week','salary'});
Xnew = adulttest(:,{'age','workClass','education_num','marital_status','race', ...
   'sex','capital_gain','capital_loss','hours_per_week','salary'});

Обучите ансамбль классификаторов с salary в качестве отклика и остальных переменных в качестве предикторов при помощи функции fitcensemble. Для двоичной классификации, fitcensemble агрегирует 100 деревьев классификации с помощью LogitBoost способ.

Mdl = fitcensemble(X,'salary');

Смотрите имена классов в Mdl.

Mdl.ClassNames

ans = 2x1 categorical
     <=50K 
     >50K 

Создайте график частичной зависимости счетов, предсказанной Mdl для второго класса salary (>50K) против предиктора age использование обучающих данных.

plotPartialDependence(Mdl,'age',Mdl.ClassNames(2))

Создайте PDP счетов для >50K классов против age использование новых данных предиктора из таблицы Xnew.

plotPartialDependence(Mdl,'age',Mdl.ClassNames(2),Xnew)

Эти два графика показывают сходные формы для частичной зависимости предсказанного счета высокого salary (>50K) на age. Оба графиков указывают, что предсказанный счет высокой зарплаты быстро повышается до 30 лет, затем остается почти плоским до 60 лет, а затем быстро падает. Однако график, основанный на новых данных, дает несколько более высокие счета для возрастов старше 65 лет.

Обучите регрессионный ансамбль с помощью carsmall набор данных и создайте график PDP и графики ICE для каждой переменной предиктора с помощью нового набора данных, carbig. Затем сравните рисунки, чтобы проанализировать важность переменных. Кроме того, сравните результаты с оценками предикторной важности, возвращенными predictorImportance функция.

Загрузите carsmall набор данных.

load carsmall

Задайте Weight, Cylinders, Horsepower, и Model_Year как переменные предиктора (X), и MPG как переменная отклика (Y).

X = [Weight,Cylinders,Horsepower,Model_Year];
Y = MPG;

Обучите регрессионный ансамбль с помощью X и Y.

Mdl = fitrensemble(X,Y, ...
    'PredictorNames',{'Weight','Cylinders','Horsepower','Model Year'}, ...
    'ResponseName','MPG');

Создайте важность переменных предиктора при помощи plotPartialDependence и predictorImportance функций. The plotPartialDependence функция визуализирует отношения между выбранным предиктором и предсказанными откликами. predictorImportance суммирует важность предиктора с одним значением.

Создайте рисунок, включающее график PDP (красная линия) и графики ICE (серые линии) для каждого предиктора при помощи plotPartialDependence и определение 'Conditional','absolute'. Каждый рисунок также включает график поля точек (маркеры круга) выбранного предиктора и предсказанные отклики. Кроме того, загрузите carbig набор данных и используйте его как новые данные предиктора, Xnew. Когда вы предоставляете Xnew, а plotPartialDependence функция использует Xnew вместо данных предиктора в Mdl.

load carbig
Xnew = [Weight,Cylinders,Horsepower,Model_Year];

figure
t = tiledlayout(2,2,'TileSpacing','compact');
title(t,'Individual Conditional Expectation Plots')

for i = 1 : 4
    nexttile
    plotPartialDependence(Mdl,i,Xnew,'Conditional','absolute')
    title('')
end

Вычислите оценки предикторной важности при помощи predictorImportance. Эта функция суммирует изменения средней квадратичной невязки (MSE) из-за разбиения на каждый предиктор, а затем делит сумму на количество узлов ветви.

imp = predictorImportance(Mdl);
figure
bar(imp)
title('Predictor Importance Estimates')
ylabel('Estimates')
xlabel('Predictors')
ax = gca;
ax.XTickLabel = Mdl.PredictorNames;

Переменная Weight оказывает наибольшее влияние на MPG согласно значимости предиктора. PDP Weight также показывает, что MPG имеет высокую частичную зависимость от Weight. Переменная Cylinders оказывает наименьшее влияние на MPG согласно значимости предиктора. PDP Cylinders также показывает, что MPG не сильно меняется в зависимости от Cylinders.

Обучите обобщенную аддитивную модель (GAM) как с линейными, так и с терминами взаимодействия для предикторов. Затем создайте PDP с как линейными, так и с терминами взаимодействия и PDP с только линейными терминами. Укажите, включать ли условия взаимодействия при создании PDP.

Загрузите ionosphere набор данных. Этот набор данных имеет 34 предиктора и 351 двоичный ответ для радиолокационных возвратов, либо плохо ('b') или хорошо ('g').

load ionosphere

Обучите GAM с помощью предикторов X и метки классов Y. Рекомендуемая практика состоит в том, чтобы задать имена классов. Укажите, чтобы включить 10 наиболее важных условий взаимодействия.

Mdl = fitcgam(X,Y,'ClassNames',{'b','g'},'Interactions',10);

Mdl является ClassificationGAM объект модели.

Перечислите условия взаимодействия в Mdl.

Mdl.Interactions

ans = 10×2

     1     5
     7     8
     6     7
     5     6
     5     7
     5     8
     3     5
     4     7
     1     7
     4     5

Каждая строка Interactions представляет один термин взаимодействия и содержит индексы столбцов переменных предиктора для термина взаимодействия.

Найдите наиболее частый предиктор в терминах взаимодействия.

mode(Mdl.Interactions,'all')

ans = 5

Наиболее частым предиктором в терминах взаимодействия является 5-й предиктор (x5). Создайте PDP для 5-го предиктора. Чтобы исключить условия взаимодействия из расчетов, задайте 'IncludeInteractions',false для второго PDP.

plotPartialDependence(Mdl,5,Mdl.ClassNames(1))
hold on
plotPartialDependence(Mdl,5,Mdl.ClassNames(1),'IncludeInteractions',false)
grid on
legend('Linear and interaction terms','Linear terms only')
title('PDPs of Posterior Probabilities for 5th Predictor')
hold off

График показывает, что частичная зависимость счетов (апостериорные вероятности) от x5 изменяется в зависимости от того, включает ли модель условия взаимодействия, особенно где x5 находится между 0,2 и 0,45.

Обучите регрессионую модель машины опорных векторов (SVM) с помощью carsmall Данные установите и создайте PDP для двух переменных предиктора. Затем извлеките оценки частичной зависимости из выхода plotPartialDependence. Также можно получить значения частичной зависимости при помощи partialDependence функция.

Загрузите carsmall набор данных.

load carsmall

Задайте Weight, Cylinders, Displacement, и Horsepower как переменные предиктора (Tbl).

Tbl = table(Weight,Cylinders,Displacement,Horsepower);

Создайте регрессионую модель SVM с помощью Tbl и переменной отклика MPG. Используйте функцию Гауссова ядра с автоматической шкалой ядра.

Mdl = fitrsvm(Tbl,MPG,'ResponseName','MPG', ...
    'CategoricalPredictors','Cylinders','Standardize',true, ...
    'KernelFunction','gaussian','KernelScale','auto');

Создайте PDP, который визуализирует частичную зависимость предсказанных откликов (MPG) на переменных предиктора Weight и Cylinders. Задайте точки запроса, чтобы вычислить частичную зависимость для Weight при помощи 'QueryPoints' аргумент пары "имя-значение". Вы не можете задать 'QueryPoints' значение для Cylinders потому что это категориальная переменная. plotPartialDependence использует все категориальные значения.

pt = linspace(min(Weight),max(Weight),50)';
ax = plotPartialDependence(Mdl,{'Weight','Cylinders'},'QueryPoints',{pt,[]});
view(140,30) % Modify the viewing angle

PDP показывает эффект взаимодействия между Weight и Cylinders. Частичная зависимость MPG на Weight изменяется в зависимости от значения Cylinders.

Извлеките предполагаемую частичную зависимость MPG на Weight и Cylinders. The XData, YData, и ZData значения ax.Children являются значениями по оси X (первыми выбранными значениями предиктора), значениями по оси Y (вторыми выбранными значениями предиктора) и значениями по оси Z (соответствующими значениями частичной зависимости), соответственно.

xval = ax.Children.XData;
yval = ax.Children.YData;
zval = ax.Children.ZData;

Также можно получить значения частичной зависимости при помощи partialDependence функция.

[pd,x,y] = partialDependence(Mdl,{'Weight','Cylinders'},'QueryPoints',{pt,[]});

pd содержит значения частичных зависимостей для точек запроса x и y.

Если вы задаете 'Conditional' как 'absolute', plotPartialDependence создает рисунок, включающую PDP, график поля точек и набор графиков ICE. ax.Children(1) и ax.Children(2) соответствуют PDP и графику поля точек, соответственно. Остальные элементы ax.Children соответствуют графикам ДВС. The XData и YData значения ax.Children(i) являются значениями по оси X (выбранные значения предиктора) и значениями по оси Y (соответствующие значения частичной зависимости), соответственно.