Обучение модели классификации и создание shapley объект. При создании shapley укажите точку запроса так, чтобы программа вычисляла значения Shapley для точки запроса. Затем создайте гистограмму значений Shapley с помощью функции object plot.

Загрузить CreditRating_Historical набор данных. Набор данных содержит идентификаторы клиентов и их финансовые коэффициенты, отраслевые наклейки и кредитные рейтинги.

tbl = readtable('CreditRating_Historical.dat');

Отображение первых трех строк таблицы.

head(tbl,3)

ans=3×8 table
     ID      WC_TA    RE_TA    EBIT_TA    MVE_BVTD    S_TA     Industry    Rating
    _____    _____    _____    _______    ________    _____    ________    ______

    62394    0.013    0.104     0.036      0.447      0.142       3        {'BB'}
    48608    0.232    0.335     0.062      1.969      0.281       8        {'A' }
    42444    0.311    0.367     0.074      1.935      0.366       1        {'A' }

Обучение модели кредитных рейтингов blackbox с помощью fitcecoc функция. Используйте переменные из второго-седьмого столбцов в tbl в качестве переменных предиктора. Рекомендуется указывать имена классов, чтобы задать порядок классов.

blackbox = fitcecoc(tbl,'Rating', ...
    'PredictorNames',tbl.Properties.VariableNames(2:7), ...
    'CategoricalPredictors','Industry', ...
    'ClassNames',{'AAA' 'AA' 'A' 'BBB' 'BB' 'B' 'CCC'});

Создать shapley объект, который объясняет прогноз для последнего наблюдения. Укажите точку запроса, чтобы программное обеспечение вычисляло значения Shapley и сохраняло их в ShapleyValues собственность.

queryPoint = tbl(end,:)

queryPoint=1×8 table
     ID      WC_TA    RE_TA    EBIT_TA    MVE_BVTD    S_TA    Industry    Rating
    _____    _____    _____    _______    ________    ____    ________    ______

    73104    0.239    0.463     0.065      2.924      0.34       2        {'AA'}

explainer = shapley(blackbox,'QueryPoint',queryPoint)

Warning: Computation can be slow because the predictor data has over 1000 observations. Use a smaller sample of the training set or specify 'UseParallel' as true for faster computation.

explainer = 
  shapley with properties:

            BlackboxModel: [1x1 ClassificationECOC]
               QueryPoint: [1x8 table]
           BlackboxFitted: {'AA'}
            ShapleyValues: [6x8 table]
               NumSubsets: 64
                        X: [3932x6 table]
    CategoricalPredictors: 6
                   Method: 'interventional-kernel'

Как указывает предупреждающее сообщение, вычисление может быть медленным, поскольку данные предиктора содержат более 1000 наблюдений. Для ускорения вычислений используйте меньший образец обучающего набора или укажите 'UseParallel' как true.

Для классификационной модели: shapley вычисляет значения Shapley, используя прогнозируемый балл класса для каждого класса. Отображение значений в ShapleyValues собственность.

explainer.ShapleyValues

ans=6×8 table
    Predictor        AAA            AA             A             BBB            BB              B             CCC    
    __________    __________    __________    ___________    ___________    ___________    ___________    ___________

    "WC_TA"         0.014716     0.0064376      0.0026704     0.00048884     -0.0079014      -0.011841      -0.011395
    "RE_TA"         0.047919      0.026918       0.014751     -0.0031481       -0.02512      -0.059926       -0.08418
    "EBIT_TA"     0.00034271    0.00015025     0.00011977     3.3903e-05    -0.00018924    -0.00038136    -0.00033784
    "MVE_BVTD"       0.38333       0.37376        0.17563      -0.032136       -0.18729       -0.24829       -0.19584
    "S_TA"        -0.0037304    -0.0026011    -8.8854e-05    -0.00081781    -5.4964e-05     0.00047888    -0.00068999
    "Industry"     -0.028972     -0.013906      0.0010435       0.023298       0.026474       0.029895       0.045394

ShapleyValues содержит значения Shapley всех элементов для каждого класса.

Постройте график значений Shapley для прогнозируемого класса с помощью plot функция. Чтобы отобразить существующее подчеркивание в любом имени предиктора, измените TickLabelInterpreter значение осей для 'none'.

f = figure;
plot(explainer)
f.CurrentAxes.TickLabelInterpreter = 'none';

Горизонтальная гистограмма показывает значения Shapley для всех переменных, отсортированные по их абсолютным значениям. Каждое значение Шепли объясняет отклонение оценки для точки запроса от средней оценки прогнозируемого класса из-за соответствующей переменной.

Обучение регрессионной модели и создание shapley объект. При создании shapley если точка запроса не указана, то программа не вычисляет значения Shapley. Использовать функцию объекта fit для вычисления значений Shapley для указанной точки запроса. Затем создайте гистограмму значений Shapley с помощью функции object plot.

Загрузить carbig набор данных, содержащий замеры автомобилей, сделанные в 1970-х и начале 1980-х годов.

load carbig

Создание таблицы, содержащей переменные предиктора Acceleration, Cylindersи так далее, а также переменная ответа MPG.

tbl = table(Acceleration,Cylinders,Displacement,Horsepower,Model_Year,Weight,MPG);

Удаление отсутствующих значений в обучающем наборе может помочь сократить потребление памяти и ускорить обучение для fitrkernel функция. Удалить отсутствующие значения в tbl.

tbl = rmmissing(tbl);

Тренировка модели blackbox MPG с помощью fitrkernel функция

rng('default') % For reproducibility
mdl = fitrkernel(tbl,'MPG','CategoricalPredictors',[2 5]);

Создать shapley объект. Укажите набор данных tbl, потому что mdl не содержит данных обучения.

explainer = shapley(mdl,tbl)

explainer = 
  shapley with properties:

            BlackboxModel: [1x1 RegressionKernel]
               QueryPoint: []
           BlackboxFitted: []
            ShapleyValues: []
               NumSubsets: 64
                        X: [392x7 table]
    CategoricalPredictors: [2 5]
                   Method: 'interventional-kernel'

explainer сохраняет данные обучения tbl в X собственность.

Вычислите значения Шапли всех переменных предиктора для первого наблюдения в tbl.

queryPoint = tbl(1,:)

queryPoint=1×7 table
    Acceleration    Cylinders    Displacement    Horsepower    Model_Year    Weight    MPG
    ____________    _________    ____________    __________    __________    ______    ___

         12             8            307            130            70         3504     18 

explainer = fit(explainer,queryPoint);

Для регрессионной модели: shapley вычисляет значения Shapley с использованием прогнозируемого ответа и сохраняет их в ShapleyValues собственность. Отображение значений в ShapleyValues собственность.

explainer.ShapleyValues

ans=6×2 table
      Predictor       ShapleyValue
    ______________    ____________

    "Acceleration"       -0.1561  
    "Cylinders"         -0.18306  
    "Displacement"      -0.34203  
    "Horsepower"        -0.27291  
    "Model_Year"         -0.2926  
    "Weight"            -0.32402  

Отображение прогнозируемого ответа для точки запроса и график значений Shapley для точки запроса с помощью plot функция. Чтобы отобразить существующее подчеркивание в любом имени предиктора, измените TickLabelInterpreter значение осей для 'none'.

explainer.BlackboxFitted

ans = 21.0495

f = figure; 
plot(explainer)
f.CurrentAxes.TickLabelInterpreter = 'none';

Горизонтальная гистограмма показывает значения Shapley для всех переменных, отсортированные по их абсолютным значениям. Каждое значение Шепли объясняет отклонение прогноза для точки запроса от среднего значения из-за соответствующей переменной.

Обучение регрессионной модели и создание shapley с помощью дескриптора функции для predict функция модели. Использовать функцию объекта fit для вычисления значений Shapley для указанной точки запроса. Затем постройте график значений Shapley с помощью функции объекта plot.

Загрузить carbig набор данных, содержащий замеры автомобилей, сделанные в 1970-х и начале 1980-х годов.

load carbig

Создание таблицы, содержащей переменные предиктора Acceleration, Cylindersи так далее.

tbl = table(Acceleration,Cylinders,Displacement,Horsepower,Model_Year,Weight);

Тренировка модели blackbox MPG с помощью TreeBagger функция.

rng('default') % For reproducibility
Mdl = TreeBagger(100,tbl,MPG,'Method','regression','CategoricalPredictors',[2 5]);

shapley не поддерживает TreeBagger объект напрямую, поэтому нельзя указать первый входной аргумент (модель blackbox) shapley в качестве TreeBagger объект. Вместо этого можно использовать дескриптор функции для predict функция. Можно также указать параметры predict с использованием аргументов «имя-значение» функции.

Создайте дескриптор функции для predict функции TreeBagger объект Mdl. Укажите массив индексов дерева для использования в качестве 1:50.

f = @(tbl) predict(Mdl,tbl,'Trees',1:50);

Создать shapley объект с помощью дескриптора функции f. При указании модели blackbox в качестве дескриптора функции необходимо указать данные предиктора. tbl включает категориальные предикторы (Cylinder и Model_Year) с помощью double тип данных. По умолчанию shapley не обрабатывает переменные с помощью double тип данных как категориальные предикторы. Укажите второе (Cylinder) и пятый (Model_Year) переменные как категориальные предикторы.

explainer = shapley(f,tbl,'CategoricalPredictors',[2 5]);
explainer = fit(explainer,tbl(1,:));

Постройте график значений Шепли.

plot(explainer)

Отображение имен предикторов в порядке важности.

tbl.Properties.VariableNames([3 2 6 4 5 1])

ans = 1x6 cell
  Columns 1 through 4

    {'Displacement'}    {'Cylinders'}    {'Weight'}    {'Horsepower'}

  Columns 5 through 6

    {'Model_Year'}    {'Acceleration'}