BayesianOptimization

Байесовы результаты оптимизации

Описание

BayesianOptimization объект содержит результаты Байесовой оптимизации. Это - выход bayesopt или подходящая функция, которая принимает OptimizeHyperparameters пара "имя-значение" такой как fitcdiscr. Кроме того, BayesianOptimization объект содержит данные для каждой итерации bayesopt к этому могут получить доступ функция построения графика или выходная функция.

Создание

Создайте BayesianOptimization объект с помощью bayesopt функционируйте или подходящая функция с OptimizeHyperparameters пара "имя-значение".

Свойства

развернуть все

Свойства описания задачи

Это свойство доступно только для чтения.

ObjectiveFcn аргумент используется bayesopt, возвращенный как указатель на функцию.

  • Если вы вызываете bayesopt непосредственно, ObjectiveFcn bayesopt аргумент целевой функции.

  • Если вы вызываете подходящую функцию, содержащую 'OptimizeHyperparameters' аргумент пары "имя-значение", ObjectiveFcn указатель на функцию, который возвращает misclassification уровень для классификации или возвращает логарифм одного плюс потеря перекрестной проверки для регрессии, измеренной пятикратной перекрестной проверкой.

Типы данных: function_handle

Это свойство доступно только для чтения.

VariableDescriptions аргумент, что bayesopt используемый, возвращенный как вектор из optimizableVariable объекты.

  • Если вы вызвали bayesopt непосредственно, VariableDescriptions bayesopt аргумент описания переменной.

  • Если вы вызвали подходящую функцию с OptimizeHyperparameters пара "имя-значение", VariableDescriptions вектор из гиперпараметров.

Это свойство доступно только для чтения.

Опции, что bayesopt используемый, возвращенный как структура.

  • Если вы вызвали bayesopt непосредственно, Options опции, используемые в bayesopt, которые являются парами "имя-значение", Смотрите bayesopt Входные параметры.

  • Если вы вызвали подходящую функцию с OptimizeHyperparameters пара "имя-значение", Options значение по умолчанию bayesopt опции, измененные HyperparameterOptimizationOptions пара "имя-значение".

Options структура только для чтения, содержащая следующие поля.

Имя опцииЗначение
AcquisitionFunctionNameИмя функции приобретения. Смотрите Типы Функции Приобретения.
IsObjectiveDeterministictrue означает, что целевая функция детерминирована, false в противном случае.
ExplorationRatioИспользуемый только, когда AcquisitionFunctionName 'expected-improvement-plus' или 'expected-improvement-per-second-plus'. Смотрите плюс.
  
MaxObjectiveEvaluationsПредел оценки целевой функции.
MaxTimeОграничение по времени.
  
XConstraintFcnДетерминированные ограничения на переменные. Смотрите Детерминированные Ограничения — XConstraintFcn.
ConditionalVariableFcnУсловные переменные ограничения. Смотрите Условные Ограничения — ConditionalVariableFcn.
NumCoupledConstraintsКоличество двойных ограничений. Смотрите Двойные Ограничения.
CoupledConstraintTolerancesДвойные допуски ограничения. Смотрите Двойные Ограничения.
AreCoupledConstraintsDeterministicЛогический вектор, задающий, детерминировано ли каждое двойное ограничение.
  
VerboseУровень отображения командной строки.
OutputFcnФункция вызвана после каждой итерации. Смотрите Байесовы Выходные функции Оптимизации.
SaveVariableNameИмя переменной для @assignInBase выходная функция.
SaveFileNameИмя файла для @saveToFile выходная функция.
PlotFcnФункция построения графика называется после каждой итерации. Смотрите Байесовы Функции построения графика Оптимизации
  
InitialXТочки, где bayesopt выполненный целевая функция.
InitialObjectiveЗначения целевой функции в InitialX.
InitialConstraintViolationsДвойные ограничительные значения функции в InitialX.
InitialErrorValuesОшибочные значения в InitialX.
InitialObjectiveEvaluationTimesВремена оценки целевой функции в InitialX.
InitialIterationTimesВремя для каждой итерации, включая оценку целевой функции и другие расчеты.

Типы данных: struct

Свойства решения

Это свойство доступно только для чтения.

Минимальная наблюдаемая величина целевой функции, возвращенной как действительный скаляр. Когда существуют связанные ограничения или ошибки оценки, это значение является минимумом по всем наблюдаемым точкам, которые выполнимы согласно итоговому ограничению и моделям Error.

Типы данных: double

Это свойство доступно только для чтения.

Наблюдаемая точка с минимальным значением целевой функции, возвращенным как 1- D таблица, где D количество переменных.

Типы данных: table

Это свойство доступно только для чтения.

Минимальная ориентировочная стоимость целевой функции, возвращенной как действительный скаляр. MinEstimatedObjective использует итоговую объективную модель.

MinEstimatedObjective совпадает с CriterionValue результат bestPoint с критерием по умолчанию.

Типы данных: double

Это свойство доступно только для чтения.

Точка с минимальным предполагаемым значением целевой функции, возвращенным как 1- D таблица, где D количество переменных. XAtMinEstimatedObjective использует итоговую объективную модель.

Типы данных: table

Это свойство доступно только для чтения.

Количество оценок целевой функции, возвращенных как положительное целое число. Это включает начальные оценки, чтобы сформировать следующую модель, а также оценку во время итераций оптимизации.

Типы данных: double

Это свойство доступно только для чтения.

Общее прошедшее время оптимизации в секундах, возвращенных как положительная скалярная величина.

Типы данных: double

Это свойство доступно только для чтения.

Следующий вопрос, чтобы оценить, если оптимизация продолжается, возвратился как 1- D таблица, где D количество переменных.

Типы данных: table

Проследите свойства

Это свойство доступно только для чтения.

Точки, где целевая функция была выполнена, возвратились как T- D таблица, где T количество точек оценки и D количество переменных.

Типы данных: table

Это свойство доступно только для чтения.

Значения целевой функции, возвращенные как вектор-столбец длины T, где T количество точек оценки. ObjectiveTrace содержит историю оценок целевой функции.

Типы данных: double

Это свойство доступно только для чтения.

Времена оценки целевой функции, возвращенные как вектор-столбец длины T, где T количество точек оценки. ObjectiveEvaluationTimeTrace включает время в оценку двойных ограничений, потому что целевая функция вычисляет эти ограничения.

Типы данных: double

Это свойство доступно только для чтения.

Времена итерации, возвращенные как вектор-столбец длины T, где T количество точек оценки. IterationTimeTrace включает и время оценки целевой функции и другие издержки.

Типы данных: double

Это свойство доступно только для чтения.

Двойные ограничительные значения, возвращенные как T- K массив, где T количество точек оценки и K количество двойных ограничений.

Типы данных: double

Это свойство доступно только для чтения.

Ошибочные признаки, возвращенные как вектор-столбец длины T из -1 или 1 записи, где T количество точек оценки. Каждый 1 запись указывает что целевая функция или возвращенный NaN с ошибками на соответствующей точке в XTrace. Каждый -1 запись указывает, что значение целевой функции было вычислено.

Типы данных: double

Это свойство доступно только для чтения.

Признаки выполнимости, возвращенные как логический вектор-столбец длины T, где T количество точек оценки. Каждый 1 запись указывает, что итоговая ограничительная модель предсказывает выполнимость в соответствующей точке в XTrace.

Типы данных: логический

Это свойство доступно только для чтения.

Вероятность, что точка оценки выполнима, возвратилась как вектор-столбец длины T, где T количество точек оценки. Вероятности прибывают из итоговой ограничительной модели, включая ошибочную ограничительную модель, на соответствующих точках в XTrace.

Типы данных: double

Это свойство доступно только для чтения.

То, которое оценка дала минимальной выполнимой цели, возвратилось как вектор-столбец целочисленных индексов длины T, где T количество точек оценки. Выполнимость определяется относительно ограничительных моделей, которые существовали в каждой итерации, включая ошибочную ограничительную модель.

Типы данных: double

Это свойство доступно только для чтения.

Минимальная наблюдаемая цель, возвращенная как вектор-столбец целочисленных индексов длины T, где T количество точек оценки.

Типы данных: double

Это свойство доступно только для чтения.

Минимальная предполагаемая цель, возвращенная как вектор-столбец целочисленных индексов длины T, где T количество точек оценки. Предполагаемая цель в каждой итерации определяется относительно объективной модели, которая существовала в той итерации.

Типы данных: double

Это свойство доступно только для чтения.

Вспомогательные данные из целевой функции, возвращенной как массив ячеек длины T, где T количество точек оценки. Каждой записью в массиве ячеек является UserData возвращенный в третьем выходе целевой функции.

Типы данных: cell

Функции объекта

bestPointЛучше всего укажите в Байесовой оптимизации согласно критерию
plotПостройте Байесовы результаты оптимизации
predictConstraintsПредскажите связанные нарушения ограничений в наборе точек
predictErrorПредскажите ошибочное значение в наборе точек
predictObjectiveПредскажите целевую функцию при наборе точек
predictObjectiveEvaluationTimeПредскажите время выполнения целевой функции в наборе точек
resumeВозобновите Байесовую оптимизацию

Примеры

свернуть все

В этом примере показано, как создать BayesianOptimization объект при помощи bayesopt минимизировать потерю перекрестной проверки.

Оптимизируйте гиперпараметры классификатора KNN для ionosphere данные, то есть, находят гиперпараметры KNN, которые минимизируют потерю перекрестной проверки. Имейте bayesopt минимизируйте по следующим гиперпараметрам:

  • Размеры самого близкого окружения от 1 до 30

  • Расстояние функционирует 'chebychev', 'euclidean', и 'minkowski'.

Для воспроизводимости установите случайный seed, установите раздел и установите AcquisitionFunctionName опция к 'expected-improvement-plus'. Чтобы подавить итеративное отображение, установите 'Verbose' к 0. Передайте раздел c и подходящие данные X и Y к целевой функции fun путем создания fun как анонимная функция, которая включает эти данные. Смотрите Функции Параметризации.

load ionosphere
rng default
num = optimizableVariable('n',[1,30],'Type','integer');
dst = optimizableVariable('dst',{'chebychev','euclidean','minkowski'},'Type','categorical');
c = cvpartition(351,'Kfold',5);
fun = @(x)kfoldLoss(fitcknn(X,Y,'CVPartition',c,'NumNeighbors',x.n,...
    'Distance',char(x.dst),'NSMethod','exhaustive'));
results = bayesopt(fun,[num,dst],'Verbose',0,...
    'AcquisitionFunctionName','expected-improvement-plus')

Figure contains an axes. The axes with title Objective function model contains 5 objects of type line, surface, contour. These objects represent Observed points, Model mean, Next point, Model minimum feasible.

Figure contains an axes. The axes with title Min objective vs. Number of function evaluations contains 2 objects of type line. These objects represent Min observed objective, Estimated min objective.

results = 
  BayesianOptimization with properties:

                      ObjectiveFcn: [function_handle]
              VariableDescriptions: [1x2 optimizableVariable]
                           Options: [1x1 struct]
                      MinObjective: 0.1197
                   XAtMinObjective: [1x2 table]
             MinEstimatedObjective: 0.1213
          XAtMinEstimatedObjective: [1x2 table]
           NumObjectiveEvaluations: 30
                  TotalElapsedTime: 85.9010
                         NextPoint: [1x2 table]
                            XTrace: [30x2 table]
                    ObjectiveTrace: [30x1 double]
                  ConstraintsTrace: []
                     UserDataTrace: {30x1 cell}
      ObjectiveEvaluationTimeTrace: [30x1 double]
                IterationTimeTrace: [30x1 double]
                        ErrorTrace: [30x1 double]
                  FeasibilityTrace: [30x1 logical]
       FeasibilityProbabilityTrace: [30x1 double]
               IndexOfMinimumTrace: [30x1 double]
             ObjectiveMinimumTrace: [30x1 double]
    EstimatedObjectiveMinimumTrace: [30x1 double]

В этом примере показано, как минимизировать потерю перекрестной проверки в ionosphere данные с помощью Байесовой оптимизации классификатора SVM.

Загрузите данные.

load ionosphere

Оптимизируйте классификацию с помощью 'auto' параметры.

rng default % For reproducibility
Mdl = fitcsvm(X,Y,'OptimizeHyperparameters','auto')
|=====================================================================================================|
| Iter | Eval   | Objective   | Objective   | BestSoFar   | BestSoFar   | BoxConstraint|  KernelScale |
|      | result |             | runtime     | (observed)  | (estim.)    |              |              |
|=====================================================================================================|
|    1 | Best   |     0.20513 |      21.603 |     0.20513 |     0.20513 |       64.836 |    0.0015729 |
|    2 | Accept |     0.35897 |     0.39269 |     0.20513 |     0.21471 |     0.036335 |       5.5755 |
|    3 | Best   |     0.13105 |      11.882 |     0.13105 |     0.14133 |    0.0022147 |    0.0023957 |
|    4 | Accept |     0.35897 |     0.23727 |     0.13105 |     0.13109 |       5.1259 |        98.62 |
|    5 | Best   |     0.12536 |     0.85649 |     0.12536 |     0.12538 |    0.0010035 |     0.022328 |
|    6 | Accept |     0.13105 |      0.5998 |     0.12536 |     0.12624 |    0.0010683 |     0.010111 |
|    7 | Accept |      0.1339 |     0.74139 |     0.12536 |     0.12546 |    0.0010422 |    0.0092339 |
|    8 | Accept |     0.13105 |      8.3916 |     0.12536 |     0.12545 |     0.073559 |     0.013649 |
|    9 | Accept |     0.12536 |     0.36602 |     0.12536 |     0.12536 |     0.004201 |     0.036641 |
|   10 | Accept |     0.12536 |     0.26415 |     0.12536 |      0.1251 |    0.0010019 |     0.048774 |
|   11 | Accept |     0.12821 |      0.4705 |     0.12536 |     0.12586 |    0.0010389 |     0.032236 |
|   12 | Accept |     0.12536 |     0.33724 |     0.12536 |     0.12485 |    0.0088035 |     0.050804 |
|   13 | Accept |     0.13105 |     0.31094 |     0.12536 |     0.12627 |     0.010612 |     0.039027 |
|   14 | Best   |     0.12251 |     0.32727 |     0.12251 |     0.12434 |    0.0010188 |     0.054959 |
|   15 | Accept |     0.12251 |     0.50242 |     0.12251 |     0.12341 |    0.0010193 |     0.060797 |
|   16 | Accept |     0.18234 |      27.658 |     0.12251 |     0.12339 |       982.41 |     0.061539 |
|   17 | Accept |     0.12536 |     0.23811 |     0.12251 |     0.12387 |    0.0011921 |     0.068996 |
|   18 | Accept |      0.1339 |     0.14245 |     0.12251 |      0.1238 |     0.001054 |     0.090485 |
|   19 | Accept |     0.12536 |     0.23321 |     0.12251 |     0.12369 |    0.0010318 |     0.048155 |
|   20 | Accept |     0.14245 |     0.16127 |     0.12251 |     0.12351 |    0.0033218 |      0.48658 |
|=====================================================================================================|
| Iter | Eval   | Objective   | Objective   | BestSoFar   | BestSoFar   | BoxConstraint|  KernelScale |
|      | result |             | runtime     | (observed)  | (estim.)    |              |              |
|=====================================================================================================|
|   21 | Accept |      0.1396 |      0.1984 |     0.12251 |     0.12359 |    0.0011213 |      0.26917 |
|   22 | Accept |      0.1339 |     0.19936 |     0.12251 |     0.12362 |     0.090154 |      0.31906 |
|   23 | Accept |     0.35897 |     0.12703 |     0.12251 |     0.12365 |       4.7175 |       567.41 |
|   24 | Accept |     0.35897 |      0.1614 |     0.12251 |     0.12374 |       4.4477 |       998.29 |
|   25 | Accept |     0.13675 |     0.10585 |     0.12251 |     0.12336 |     0.026541 |       1.3348 |
|   26 | Accept |     0.12251 |     0.17536 |     0.12251 |     0.12337 |      0.22207 |      0.89524 |
|   27 | Accept |     0.12536 |     0.23248 |     0.12251 |     0.12338 |       3.4035 |       1.0021 |
|   28 | Accept |     0.12251 |     0.38345 |     0.12251 |     0.12338 |       1.7753 |      0.75668 |
|   29 | Accept |     0.12251 |     0.17042 |     0.12251 |     0.12244 |      0.40018 |      0.85004 |
|   30 | Accept |     0.12536 |     0.25447 |     0.12251 |     0.12311 |      0.53182 |      0.86058 |

Figure contains an axes. The axes with title Min objective vs. Number of function evaluations contains 2 objects of type line. These objects represent Min observed objective, Estimated min objective.

Figure contains an axes. The axes with title Objective function model contains 5 objects of type line, surface, contour. These objects represent Observed points, Model mean, Next point, Model minimum feasible.

__________________________________________________________
Optimization completed.
MaxObjectiveEvaluations of 30 reached.
Total function evaluations: 30
Total elapsed time: 153.2006 seconds
Total objective function evaluation time: 77.7245

Best observed feasible point:
    BoxConstraint    KernelScale
    _____________    ___________

      0.0010188       0.054959  

Observed objective function value = 0.12251
Estimated objective function value = 0.12338
Function evaluation time = 0.32727

Best estimated feasible point (according to models):
    BoxConstraint    KernelScale
    _____________    ___________

       0.53182         0.86058  

Estimated objective function value = 0.12311
Estimated function evaluation time = 0.21175
Mdl = 
  ClassificationSVM
                         ResponseName: 'Y'
                CategoricalPredictors: []
                           ClassNames: {'b'  'g'}
                       ScoreTransform: 'none'
                      NumObservations: 351
    HyperparameterOptimizationResults: [1x1 BayesianOptimization]
                                Alpha: [109x1 double]
                                 Bias: -3.5170
                     KernelParameters: [1x1 struct]
                       BoxConstraints: [351x1 double]
                      ConvergenceInfo: [1x1 struct]
                      IsSupportVector: [351x1 logical]
                               Solver: 'SMO'


  Properties, Methods

Подгонка достигла приблизительно 12%-й потери для 5-кратной перекрестной проверки по умолчанию.

Исследуйте BayesianOptimization объект, который возвращен в HyperparameterOptimizationResults свойство возвращенной модели.

disp(Mdl.HyperparameterOptimizationResults)
  BayesianOptimization with properties:

                      ObjectiveFcn: @createObjFcn/inMemoryObjFcn
              VariableDescriptions: [5x1 optimizableVariable]
                           Options: [1x1 struct]
                      MinObjective: 0.1225
                   XAtMinObjective: [1x2 table]
             MinEstimatedObjective: 0.1231
          XAtMinEstimatedObjective: [1x2 table]
           NumObjectiveEvaluations: 30
                  TotalElapsedTime: 153.2006
                         NextPoint: [1x2 table]
                            XTrace: [30x2 table]
                    ObjectiveTrace: [30x1 double]
                  ConstraintsTrace: []
                     UserDataTrace: {30x1 cell}
      ObjectiveEvaluationTimeTrace: [30x1 double]
                IterationTimeTrace: [30x1 double]
                        ErrorTrace: [30x1 double]
                  FeasibilityTrace: [30x1 logical]
       FeasibilityProbabilityTrace: [30x1 double]
               IndexOfMinimumTrace: [30x1 double]
             ObjectiveMinimumTrace: [30x1 double]
    EstimatedObjectiveMinimumTrace: [30x1 double]
Введенный в R2017b
Для просмотра документации необходимо авторизоваться на сайте