Документация

Входные параметры функции со случайными или часто изменяющимися значениями

Необходимо заботиться при ускорении функций, которые принимают случайные или часто изменяющиеся значения, как введено, такие как функция градиентов модели, которая берет случайный шум в качестве входа и добавляет его во входные данные. Если какими-либо случайными или часто изменяющимися входными параметрами к ускоренной функции не является dlarray объекты, затем функция инициировала новую трассировку для каждого ранее невидимого значения.

Можно проверять на сценарии как это путем осмотра Occupancy и HitRate свойства AcceleratedFunction объект. Если Occupancy свойство высоко и HitRate является низким, затем это может указать что AcceleratedFunction объект создает много новых трассировок, которые он не снова использует.

Для dlarray объектный вход, изменения в значении, чтобы не инициировать новые трассировки. Чтобы препятствовать тому, чтобы часто вход изменения инициировал новые трассировки для каждой оценки, осуществите рефакторинг свой код, таким образом, что случайными входными параметрами является dlarray входные параметры.

Например, рассмотрите функцию градиентов модели, которая принимает случайный массив шумовых значений:

function [gradients,state,loss] = modelGradients(parameters,dlX,dlT,state,noise)

dlX = dlX + noise;
[dlYPred,state] = model(parameters,dlX,state);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

Чтобы ускорить эту функцию градиентов модели, преобразуйте вход noise к dlarray прежде, чем выполнить ускоренную функцию. Поскольку modelGradients функционируйте также поддерживает dlarray введите для шума, вы не должны вносить изменения в функцию.

noise = dlarray(noise,'SSCB');
accfun = dlaccelerate(@modelGradients);
[gradients,state,loss] = dlfeval(accfun,parameters,dlX,dlT,state,noise);

В качестве альтернативы можно ускорить части функции градиентов модели, которые не требуют случайного входа.

Функции с генерацией случайных чисел

Необходимо заботиться при ускорении функций, которые используют генерацию случайных чисел, такую как функция градиентов модели, которая генерирует случайный шум, чтобы добавить к сетевому входу. При кэшировании трассировки функции, которая генерирует случайные числа, которые не являются dlarray объекты, ускоренные функциональные кэши, приводящие случайные числа к трассировке. При многократном использовании трассировки ускоренная функция использует кэшируемые случайные значения. Ускоренная функция не генерирует новые случайные значения.

Генерация случайных чисел с помощью 'like' опция rand функция с dlarray ускорение поддержки объектов. Чтобы использовать генерацию случайных чисел в ускоренной функции, гарантируйте, что функция использует rand функция с 'like' набор опции к прослеженному dlarray объект (dlarray объект, который зависит от входа dlarray объект.

Например, рассмотрите следующую функцию градиентов модели.

[gradients,state,loss] = modelGradients(parameters,dlX,dlT,state)

sz = size(dlX);
noise = rand(sz);
dlX = dlX + noise;

[dlYPred,state] = model(parameters,dlX,state);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

Гарантировать что rand функция генерирует новое значение для каждой оценки, используйте 'like' опция с прослеженным dlarray объект dlX.

[gradients,state,loss] = modelGradients(parameters,dlX,dlT,state)

sz = size(dlX);
noise = rand(sz,'like',dlX);
dlX = dlX + noise;

[dlYPred,state] = model(parameters,dlX);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

В качестве альтернативы можно ускорить части функции градиентов модели, которые не требуют генерации случайных чисел.

Используя if Операторы и while Циклы

Необходимо заботиться при ускорении функций то использование if операторы и while циклы. В частности, if операторы и while циклы поддерживают ускорение только, когда условия не зависят от значений dlarray объекты.

Попытка ускорить функции, которые имеют if операторы и while циклы с условиями, которые зависят от dlarray значения могут привести к неожиданному поведению. Когда ускоренные функциональные кэши новая трассировка, если трассировка содержит if оператор или while условие цикла, которое зависит от значения dlarray объект, затем функциональные кэши трассировка получившегося пути выполнения кода, данного if оператор или while цикл для того значения. Поскольку изменения в значении dlarray введите не инициировали новую трассировку, снова используя трассировку, функция использует ту же кэшируемую трассировку (который представляет тот же путь выполнения кода), даже когда различие в значении может привести к различному пути выполнения кода.

Использовать if операторы и while циклы, которые зависят от dlarray объектные значения, ускорьте тело if оператор или while цикл только.

Входные параметры функции, которые Зависят от Указателей

Необходимо заботиться при ускорении функций, которые берут объекты, которые зависят от указателей, как введено, таких как minibatchqueue объект, который имеет функцию предварительной обработки, определил функцией указатель. AcceleratedFunction возразите выдает ошибку при выполнении функции с входными параметрами в зависимости от указателей.

Вместо этого можно ускорить части функции градиентов модели, которые не требуют входных параметров, которые зависят от указателей.

Отладка

Необходимо заботиться при отладке ускоренных функций. Кэшируемые трассировки не поддерживают точки останова. При использовании ускоренных функций программное обеспечение достигает точек останова в базовой функции во время процесса трассировки только.

Чтобы отладить код в базовой функции с помощью точек останова, отключите ускорение путем установки Enabled свойство к false.

Чтобы отладить кэшируемые трассировки, можно сравнить выходные параметры ускоренных функций с выходными параметрами базовой функции путем установки CheckMode свойство к 'tolerance'.