Обучение регрессионной модели и создание shapley объект. При создании shapley если точка запроса не указана, то программа не вычисляет значения Shapley. Использовать функцию объекта fit для вычисления значений Shapley для указанной точки запроса. Затем создайте гистограмму значений Shapley с помощью функции object plot.

Загрузить carbig набор данных, содержащий замеры автомобилей, сделанные в 1970-х и начале 1980-х годов.

load carbig

Создание таблицы, содержащей переменные предиктора Acceleration, Cylindersи так далее, а также переменная ответа MPG.

tbl = table(Acceleration,Cylinders,Displacement,Horsepower,Model_Year,Weight,MPG);

Удаление отсутствующих значений в обучающем наборе может помочь сократить потребление памяти и ускорить обучение для fitrkernel функция. Удалить отсутствующие значения в tbl.

tbl = rmmissing(tbl);

Тренировка модели blackbox MPG с помощью fitrkernel функция

rng('default') % For reproducibility
mdl = fitrkernel(tbl,'MPG','CategoricalPredictors',[2 5]);

Создать shapley объект. Укажите набор данных tbl, потому что mdl не содержит данных обучения.

explainer = shapley(mdl,tbl)

explainer = 
  shapley with properties:

            BlackboxModel: [1x1 RegressionKernel]
               QueryPoint: []
           BlackboxFitted: []
            ShapleyValues: []
               NumSubsets: 64
                        X: [392x7 table]
    CategoricalPredictors: [2 5]
                   Method: 'interventional-kernel'

explainer сохраняет данные обучения tbl в X собственность.

Вычислите значения Шапли всех переменных предиктора для первого наблюдения в tbl.

queryPoint = tbl(1,:)

queryPoint=1×7 table
    Acceleration    Cylinders    Displacement    Horsepower    Model_Year    Weight    MPG
    ____________    _________    ____________    __________    __________    ______    ___

         12             8            307            130            70         3504     18 

explainer = fit(explainer,queryPoint);

Для регрессионной модели: shapley вычисляет значения Shapley с использованием прогнозируемого ответа и сохраняет их в ShapleyValues собственность. Отображение значений в ShapleyValues собственность.

explainer.ShapleyValues

ans=6×2 table
      Predictor       ShapleyValue
    ______________    ____________

    "Acceleration"       -0.1561  
    "Cylinders"         -0.18306  
    "Displacement"      -0.34203  
    "Horsepower"        -0.27291  
    "Model_Year"         -0.2926  
    "Weight"            -0.32402  

Отображение прогнозируемого ответа для точки запроса и график значений Shapley для точки запроса с помощью plot функция. Чтобы отобразить существующее подчеркивание в любом имени предиктора, измените TickLabelInterpreter значение осей для 'none'.

explainer.BlackboxFitted

ans = 21.0495

f = figure; 
plot(explainer)
f.CurrentAxes.TickLabelInterpreter = 'none';

Горизонтальная гистограмма показывает значения Shapley для всех переменных, отсортированные по их абсолютным значениям. Каждое значение Шепли объясняет отклонение прогноза для точки запроса от среднего значения из-за соответствующей переменной.

Обучение модели классификации и создание shapley объект. Затем вычислите значения Shapley для нескольких точек запроса.

Загрузить CreditRating_Historical набор данных. Набор данных содержит идентификаторы клиентов и их финансовые коэффициенты, отраслевые наклейки и кредитные рейтинги.

tbl = readtable('CreditRating_Historical.dat');

Обучение модели кредитных рейтингов blackbox с помощью fitcecoc функция. Используйте переменные из второго-седьмого столбцов в tbl в качестве переменных предиктора.

blackbox = fitcecoc(tbl,'Rating', ...
    'PredictorNames',tbl.Properties.VariableNames(2:7), ...
    'CategoricalPredictors','Industry');

Создать shapley объект с blackbox модель. Для более быстрого вычисления выполните выборку 25% наблюдений из tbl с расслоением и использовать образцы для вычисления значений Шапли. Укажите, следует ли использовать расширение алгоритма kernelSHAP.

rng('default') % For reproducibility
c = cvpartition(tbl.Rating,'Holdout',0.25);
tbl_s = tbl(test(c),:);
explainer = shapley(blackbox,tbl_s,'Method','conditional-kernel');

Найти две точки запроса с истинными значениями рейтинга AAA и Bсоответственно.

queryPoint(1,:) = tbl_s(find(strcmp(tbl_s.Rating,'AAA'),1),:);
queryPoint(2,:) = tbl_s(find(strcmp(tbl_s.Rating,'B'),1),:)

queryPoint=2×8 table
     ID      WC_TA     RE_TA     EBIT_TA    MVE_BVTD    S_TA     Industry    Rating 
    _____    ______    ______    _______    ________    _____    ________    _______

    58258     0.511     0.869     0.106      8.538      0.732       2        {'AAA'}
    82367    -0.078    -0.042     0.011      0.262      0.167       7        {'B'  }

Вычислите и постройте график значений Shapley для первой точки запроса. Чтобы отобразить существующее подчеркивание в любом имени предиктора, измените TickLabelInterpreter значение осей для 'none'.

explainer1 = fit(explainer,queryPoint(1,:));
f1 = figure;
plot(explainer1)
f1.CurrentAxes.TickLabelInterpreter = 'none';

Вычислите и постройте график значений Shapley для второй точки запроса.

explainer2 = fit(explainer,queryPoint(2,:));
f2 = figure;
plot(explainer2)
f2.CurrentAxes.TickLabelInterpreter = 'none';

Истинная оценка для второй точки запроса B, но прогнозируемый рейтинг BB. На графике показаны значения Шепли для прогнозируемого рейтинга.

explainer1 и explainer2 включают значения Shapley для первой точки запроса и второй точки запроса соответственно.