Документация

Границы

bayesopt требует конечных границ для всех переменных. (categorical переменные по своей природе ограничены в своих возможных значениях.) Передайте нижнюю и верхнюю границы для вещественных и целочисленных переменных в optimizableVariable.

bayesopt использует эти границы для образцов точек, равномерно или с логарифмическим масштабированием. Масштабирование для выборки устанавливается в optimizableVariable.

Например, для ограничения переменной X1 к значениям между 1e-6 и 1e3, масштабировано логарифмически,

xvar = optimizableVariable('X1',[1e-6,1e3],'Transform','log')

bayesopt включает конечные точки в свой диапазон. Поэтому нельзя использовать 0 в качестве нижней границы для преобразованной в журнал переменной.

Детерминированные ограничения - XConstraintFcn

Иногда ваша проблема действительна или хорошо определена только для точек в определенной области, называемой возможной областью. Детерминированное ограничение - детерминированная функция, возвращающая true когда точка выполнима, и false когда точка неосуществима. Так что детерминированные ограничения не стохастические, и они являются функциями не группы точек, а отдельных точек.

Запись детерминированной функции ограничения с помощью сигнатуры

tf = xconstraint(X)

Передача детерминированной функции ограничения в bayesopt XConstraintFcn пара имя-значение. Например,

results = bayesopt(fun,vars,'XConstraintFcn',@xconstraint)

bayesopt вычисляет детерминированные ограничения для тысяч точек, и поэтому выполняется быстрее, когда функция ограничения векторизована. См. раздел Векторизация.

Например, предположим, что переменные с именем 'x1' и 'x2' осуществимы, когда норма вектора [x1 x2] меньше, чем 6, и когда x1 <= x2. Следующая функция ограничения оценивает эти ограничения.

function tf = xconstraint(X)
tf1 = sqrt(X.x1.^2 + X.x2.^2) < 6;
tf2 = X.x1 <= X.x2;
tf = tf1 & tf2;

Условные ограничения - ConditionalVariableFcn

Условные ограничения - это функции, выполняющие одно из следующих двух условий:

Задайте условное ограничение, задав bayesopt ConditionalVariableFcn пара имя-значение к дескриптору функции, скажем @condvariablefcn. @condvariablefcn функция должна иметь подпись

Xnew = condvariablefcn(X)

condvariablefcn наборы Xnew быть равным X, за исключением того, что он также устанавливает соответствующие переменные в каждой строке Xnew до правильных значений для ограничения.

function XTable = fitcdiscrCVF(XTable)
% Gamma must be 0 if discrim type is a quadratic
XTable.Gamma(ismember(XTable.DiscrimType, {'quadratic',...
        'diagQuadratic','pseudoQuadratic'})) = 0;
end

function Xnew = condvariablefcn(X)
Xnew = X;
Xnew.PolynomialOrder(Xnew.KernelFunction ~= 'polynomial') = NaN;

function X = condvariablefcn(X)
X.PolynomialOrder(Xnew.KernelFunction ~= 'polynomial') = NaN;

fun = @(X)mysvmfun(X,predictors,responce,c)

function objective = mysvmfun(X,predictors,response,c)
    args = {predictors,response, ...
        'CVPartition',c, ...
        'KernelFunction',X.KernelFunction};
    if ~isnan(X.PolynomialOrder)
        args = [args,{'PolynomialOrder',X.PolynomialOrder}];
    end
    objective = kfoldLoss(fitcsvm(args{:}));
end

Связанные зависимости

Связанные ограничения - это ограничения, которые можно вычислить только путем вызова целевой функции. Эти ограничения могут быть стохастическими или детерминированными. Верните эти значения ограничений из целевой функции во втором аргументе. См. раздел Целевые функции байесовской оптимизации.

Целевая функция возвращает числовой вектор для связанных ограничений, по одной записи для каждого связанного ограничения. Для каждой записи отрицательное значение указывает, что ограничение выполнено (также называется выполнимым). Положительное значение указывает, что ограничение не выполнено (невозможно).

bayesopt автоматически создает связанное ограничение, называемое ограничением ошибки, для каждого прогона. Это ограничение включает bayesopt для моделирования точек, вызывающих ошибки при оценке объективной функции. Дополнительные сведения см. в разделах Ошибки целевой функции и predictError.

При наличии связанных ограничений в дополнение к ограничению ошибки:

Проверьте значения связанных ограничений в каждой итерации, установив значение bayesopt Verbose пара имя-значение к 1 или 2.

Пример см. в разделе Байесовская оптимизация со связанными ограничениями.

Байесовская оптимизация со связанными ограничениями

Связанное ограничение - это ограничение, которое может быть вычислено только путем оценки целевой функции. В этом случае целевой функцией является перекрестная проверка потери модели SVM. Связанное ограничение заключается в том, что число векторов поддержки не превышает 100. Подробности модели приведены в разделе Оптимизация кросс-проверенного классификатора SVM с использованием байесопта.

rng default
grnpop = mvnrnd([1,0],eye(2),10);
redpop = mvnrnd([0,1],eye(2),10);
redpts = zeros(100,2);
grnpts = redpts;
for i = 1:100
    grnpts(i,:) = mvnrnd(grnpop(randi(10),:),eye(2)*0.02);
    redpts(i,:) = mvnrnd(redpop(randi(10),:),eye(2)*0.02);
end
cdata = [grnpts;redpts];
grp = ones(200,1);
grp(101:200) = -1;
c = cvpartition(200,'KFold',10);
sigma = optimizableVariable('sigma',[1e-5,1e5],'Transform','log');
box = optimizableVariable('box',[1e-5,1e5],'Transform','log');

function [objective,constraint] = mysvmfun(x,cdata,grp,c)
SVMModel = fitcsvm(cdata,grp,'KernelFunction','rbf',...
    'BoxConstraint',x.box,...
    'KernelScale',x.sigma);
cvModel = crossval(SVMModel,'CVPartition',c);
objective = kfoldLoss(cvModel);
constraint = sum(SVMModel.IsSupportVector)-100.5;

fun = @(x)mysvmfun(x,cdata,grp,c);

results = bayesopt(fun,[sigma,box],'IsObjectiveDeterministic',true,...
    'NumCoupledConstraints',1,'PlotFcn',...
    {@plotMinObjective,@plotConstraintModels},...
    'AcquisitionFunctionName','expected-improvement-plus','Verbose',0);