Документация

Входные параметры функции со случайными или часто изменяющимися значениями

Вы должны позаботиться при ускорении функций, которые берут случайные или часто изменяющиеся значения в качестве входных данных, таких как функция градиентов модели, которая принимает случайный шум в качестве входных данных и добавляет их к входным данным. Если какие-либо случайные или часто изменяющиеся входы в ускоренную функцию не dlarray объекты, затем функция запускает новую трассировку для каждого ранее невидимого значения.

Можно проверить наличие таких сценариев путем проверки Occupancy и HitRate свойства AcceleratedFunction объект. Если на Occupancy свойство высокое и HitRate низкая, тогда это может указать, что AcceleratedFunction объект создает много новых трассировок, которые он не использует повторно.

Для dlarray вход объекта, изменения в значении, чтобы не запускать новые трассировки. Чтобы предотвратить часто изменяющиеся входы от запуска новых трассировок для каждой оценки, рефактируйте ваш код так, чтобы случайные входы dlarray входы.

Для примера рассмотрим функцию градиентов модели, которая принимает случайный массив значений шума:

function [gradients,state,loss] = modelGradients(parameters,dlX,dlT,state,noise)

dlX = dlX + noise;
[dlYPred,state] = model(parameters,dlX,state);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

Чтобы ускорить функцию градиентов модели, преобразуйте входную noise на dlarray перед вычислением ускоренной функции. Потому что modelGradients функция также поддерживает dlarray вход для шума, вам не нужно вносить изменения в функцию.

noise = dlarray(noise,'SSCB');
accfun = dlaccelerate(@modelGradients);
[gradients,state,loss] = dlfeval(accfun,parameters,dlX,dlT,state,noise);

Кроме того, можно ускорить части функции градиентов модели, которые не требуют случайного входа.

Функции с генерацией случайных чисел

Вы должны позаботиться при ускорении функций, которые используют генерацию случайных чисел, таких как функция градиентов модели, которая генерирует случайный шум, чтобы добавить к входу сети. При кэшировании трассировки функции, которая генерирует случайные числа, которые не dlarray объекты, ускоренная функция кэширует результирующие случайные числа в трассировке. При повторном использовании трассировки ускоренная функция использует кэшированные случайные значения. Ускоренная функция не генерирует новые случайные значения.

Генерация случайных чисел с использованием 'like' опция rand функция со dlarray объект поддерживает ускорение. Чтобы использовать генерацию случайных чисел в ускоренной функции, убедитесь, что функция использует rand функция со 'like' набор опций равен трассированному dlarray объект (а dlarray объект, который зависит от входа dlarray объект).

Для примера рассмотрим следующую функцию градиентов модели.

[gradients,state,loss] = modelGradients(parameters,dlX,dlT,state)

sz = size(dlX);
noise = rand(sz);
dlX = dlX + noise;

[dlYPred,state] = model(parameters,dlX,state);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

Чтобы гарантировать, что rand функция генерирует новое значение для каждой оценки, используйте 'like' опция с трассировкой dlarray dlX объекта.

[gradients,state,loss] = modelGradients(parameters,dlX,dlT,state)

sz = size(dlX);
noise = rand(sz,'like',dlX);
dlX = dlX + noise;

[dlYPred,state] = model(parameters,dlX);
loss = crossentropy(dlYPred,dlT);
gradients = dlgradient(loss,parameters);

end

Кроме того, можно ускорить части функции градиентов модели, которые не требуют генерации случайных чисел.

Использование if Операторы и while Циклы

Вы должны позаботиться при ускорении функций, которые используют if операторы и while циклы. В частности, if операторы и while циклы поддерживают ускорение только, когда условия не зависят от значений dlarray объекты.

Попытка ускорить функции, имеющие if операторы и while циклы с условиями, которые зависят от dlarray значения могут привести к неожиданному поведению. Когда ускоренная функция кэширует новую трассировку, если трассировка содержит if оператор или while условие цикла, которое зависит от значения dlarray объект, затем функция кэширует трассировку полученного пути кода, заданную if оператор или while цикл для этого значения. Потому что изменения в значении dlarray вход не запускает новую трассировку, при повторном использовании трассировки функция использует ту же кэшированную трассировку (которая представляет один и тот же путь кода), даже когда различие в значении может привести к другому пути кода.

Как использовать if операторы и while циклы, которые зависят от dlarray значения объектов, ускорение тела if оператор или while только цикл.

Входные параметры функции, которые зависят от указателей

Вы должны позаботиться при ускорении функций, которые берут объекты, которые зависят от указателей в качестве входных данных, таких как minibatchqueue объект, который имеет функцию предварительной обработки, заданную как указатель на функцию. The AcceleratedFunction объект выдает ошибку при оценке функции с входами в зависимости от указателей.

Вместо этого можно ускорить части функции градиентов модели, которые не требуют входов, зависящих от указателей.

Отладка

Вы должны позаботиться при отладке ускоренных функций. Кэшированные трассировки не поддерживают пропуска. При использовании ускоренных функций программа достигает пропусков в базовой функции только в процессе трассировки.

Чтобы отлажить код в базовой функции с помощью точек по оси Х, отключите ускорение, установив Enabled свойство к false.

Чтобы отлажить кэшированные трассировки, можно сравнить выходы ускоренных функций с выходами базовой функции, путем установки CheckMode свойство к 'tolerance'.