Документация

Границы

bayesopt требует конечных границ для всех переменных. (categorical переменные по своей природе ограничены возможными значениями.) Передайте нижнюю и верхнюю границы для вещественных и целочисленных переменных в optimizableVariable.

bayesopt использует эти ограничения для точек выборки, либо равномерно, либо логарифмически. Вы устанавливаете масштабирование для дискретизации в optimizableVariable.

Например, чтобы ограничить переменную X1 к значениям между 1e-6 и 1e3, масштабированный логарифмически,

xvar = optimizableVariable('X1',[1e-6,1e3],'Transform','log')

bayesopt включает конечные точки в свою область значений. Поэтому вы не можете использовать 0 как нижнюю границу для переменной, преобразованной в журнал.

Детерминированные ограничения - XConstraintFcn

Иногда ваша задача действительна или четко определена только для точек в определенной области, называемой feasible region. Детерминированное ограничение является детерминированной функцией, которая возвращает true когда точка допустима, и false когда точка недопустима. Поэтому детерминированные ограничения не являются стохастическими, и они являются функциями не группы точек, а отдельных точек.

Напишите детерминированную функцию ограничения с помощью сигнатуры

tf = xconstraint(X)

Передайте детерминированную функцию ограничения в bayesopt XConstraintFcn Пара "имя-значение". Для примера,

results = bayesopt(fun,vars,'XConstraintFcn',@xconstraint)

bayesopt вычисляет детерминированные ограничения для тысяч точек и поэтому запускается быстрее, когда ваша функция ограничения векторизирована. См. Векторизация.

Например, предположим, что переменные с именем 'x1' и 'x2' допустимы, когда норма вектора [x1 x2] меньше 6, и когда x1 <= x2. Следующая функция ограничения оценивает эти ограничения.

function tf = xconstraint(X)
tf1 = sqrt(X.x1.^2 + X.x2.^2) < 6;
tf2 = X.x1 <= X.x2;
tf = tf1 & tf2;

Условные ограничения - ConditionalVariableFcn

Условными ограничениями являются функции, которые обеспечивают одно из следующих двух условий:

Задайте условное ограничение путем установки bayesopt ConditionalVariableFcn Паре "имя-значение" к указателю на функцию, скажем @condvariablefcn. The @condvariablefcn функция должна иметь подпись

Xnew = condvariablefcn(X)

condvariablefcn устанавливает Xnew быть равным X, за исключением того, что он также устанавливает соответствующие переменные в каждую строку Xnew к правильным значениям для ограничения.

function XTable = fitcdiscrCVF(XTable)
% Gamma must be 0 if discrim type is a quadratic
XTable.Gamma(ismember(XTable.DiscrimType, {'quadratic',...
        'diagQuadratic','pseudoQuadratic'})) = 0;
end

function Xnew = condvariablefcn(X)
Xnew = X;
Xnew.PolynomialOrder(Xnew.KernelFunction ~= 'polynomial') = NaN;

function X = condvariablefcn(X)
X.PolynomialOrder(Xnew.KernelFunction ~= 'polynomial') = NaN;

fun = @(X)mysvmfun(X,predictors,responce,c)

function objective = mysvmfun(X,predictors,response,c)
    args = {predictors,response, ...
        'CVPartition',c, ...
        'KernelFunction',X.KernelFunction};
    if ~isnan(X.PolynomialOrder)
        args = [args,{'PolynomialOrder',X.PolynomialOrder}];
    end
    objective = kfoldLoss(fitcsvm(args{:}));
end

Связанные ограничения

Coupled constraints ограничения, которые можно вычислить только путем вызова целевой функции. Эти ограничения могут быть стохастическими или детерминированными. Верните эти значения ограничений из целевой функции во втором аргументе. См. «Байесовские целевые функции оптимизации».

Целевая функция возвращает числовой вектор для связанных ограничений, по одной записи для каждого связанного ограничения. Для каждой записи отрицательное значение указывает, что ограничение выполнено (также называемое допустимым). Положительное значение указывает, что ограничение не выполнено (недопустимо).

bayesopt автоматически создает связанное ограничение, называемое ограничением ошибка, для каждого запуска. Это ограничение включает bayesopt моделировать точки, которые вызывают ошибки в объективных вычислениях функции. Для получения дополнительной информации смотрите Ошибки целевой функции и predictError.

Если у вас есть связанные ограничения в дополнение к ограничению ошибка:

Наблюдайте связанные значения ограничений в каждой итерации, установив bayesopt Verbose Пара "имя-значение" с 1 или 2.

Для получения примера см. «Байесовская оптимизация со связанными ограничениями».

Байесовская оптимизация со связанными ограничениями

Связанное ограничение является ограничением, которое может быть оценено только путем оценки целевой функции. В этом случае целевой функцией является перекрестная потеря модели SVM. Связанное ограничение состоит в том, что количество векторов поддержки не более 100. Детали модели находятся в Оптимизации классификатора SVM с перекрестной проверкой с использованием bayesopt.

rng default
grnpop = mvnrnd([1,0],eye(2),10);
redpop = mvnrnd([0,1],eye(2),10);
redpts = zeros(100,2);
grnpts = redpts;
for i = 1:100
    grnpts(i,:) = mvnrnd(grnpop(randi(10),:),eye(2)*0.02);
    redpts(i,:) = mvnrnd(redpop(randi(10),:),eye(2)*0.02);
end
cdata = [grnpts;redpts];
grp = ones(200,1);
grp(101:200) = -1;
c = cvpartition(200,'KFold',10);
sigma = optimizableVariable('sigma',[1e-5,1e5],'Transform','log');
box = optimizableVariable('box',[1e-5,1e5],'Transform','log');

function [objective,constraint] = mysvmfun(x,cdata,grp,c)
SVMModel = fitcsvm(cdata,grp,'KernelFunction','rbf',...
    'BoxConstraint',x.box,...
    'KernelScale',x.sigma);
cvModel = crossval(SVMModel,'CVPartition',c);
objective = kfoldLoss(cvModel);
constraint = sum(SVMModel.IsSupportVector)-100.5;

fun = @(x)mysvmfun(x,cdata,grp,c);

results = bayesopt(fun,[sigma,box],'IsObjectiveDeterministic',true,...
    'NumCoupledConstraints',1,'PlotFcn',...
    {@plotMinObjective,@plotConstraintModels},...
    'AcquisitionFunctionName','expected-improvement-plus','Verbose',0);