Глубокое обучение квантование INT8

Калибруйте, подтвердите и разверните квантованные предварительно обученные серийные нейронные сети для глубокого обучения

Увеличьте пропускную способность, уменьшайте использование ресурса и разверните большие сети на требуемые платы меньшего размера путем квантования нейронных сетей для глубокого обучения.

После калибровки вашей предварительно обученной серийной сети путем сбора данных об инструментировании квантуйте серийную сеть и подтвердите точность квантованной сети. Если квантованная сеть была проверена, генерирует код для и развертывает квантованную сеть.

Функции

развернуть все

dlquantizationOptionsОпции для квантования обученной глубокой нейронной сети
dlquantizerКвантуйте глубокую нейронную сеть к 8-битным масштабированным целочисленным типам данных
calibrateСимулируйте и соберите области значений глубокой нейронной сети
validateКвантуйте и подтвердите глубокую нейронную сеть
dlhdl.WorkflowСконфигурируйте рабочий процесс развертывания для глубокой нейронной сети
dlhdl.TargetСконфигурируйте интерфейс на требуемую плату для развертывания рабочего процесса
compile Скомпилируйте объект рабочего процесса
deploy Разверните заданную нейронную сеть в целевую плату FPGA
predictЗапустите вывод в развернутой сети и профилируйте скорость нейронной сети, развернутой на заданном целевом устройстве
releaseВыпустите связь с целевым устройством
validateConnectionПодтвердите связь SSH и развернутый поток битов

Темы

Запуск

Поддерживаемые сети, слои, Советы и инструменты

Предварительно обученные нейронные сети для глубокого обучения и слоя сети, для которых код может быть сгенерирован Deep Learning HDL Toolbox™.

Квантование глубоких нейронных сетей

Изучите эффекты квантования и как визуализировать динамические диапазоны сетевых слоев свертки.

Рабочий процесс квантования

Необходимые условия рабочего процесса квантования

Продукты требуются для квантования нейронных сетей для глубокого обучения.

Калибровка

Симулируйте свою предварительно обученную серийную сеть и соберите динамический диапазон весов и смещений.

Валидация

Квантуйте и подтвердите свою предварительно обученную серийную нейронную сеть для глубокого обучения.

Генерация кода и развертывание

Сгенерируйте код и разверните свою квантованную предварительно обученную серийную нейронную сеть для глубокого обучения.

Рекомендуемые примеры

Quantize Network for FPGA Deployment

Квантуйте сеть для развертывания FPGA

Квантуйте настраиваемые параметры в слоях свертки нейронной сети и проверьте квантованную сеть. Быстрое прототипирование квантованная сеть при помощи симуляции MATLAB или FPGA, чтобы проверить квантованную сеть. В этом примере вы квантуете нейронную сеть LogoNet.

Скрипт Open Live Script
Deploy Quantized Network Example

Разверните квантованный сетевой пример

Обучите, скомпилируйте и разверните dlhdl.Workflow object, который квантовал Alexnet как сетевой объект при помощи Пакета Поддержки Deep Learning HDL Toolbox™ для FPGA Xilinx и SoC. Квантование помогает уменьшать требования к памяти глубокой нейронной сети путем квантования весов, смещений и активаций слоев сети к 8-битным масштабированным целочисленным типам данных. Использование MATLAB®, чтобы получить предсказание следует из целевого устройства.

Скрипт Open Live Script
Classify Images on an FPGA Using a Quantized DAG Network

Классифицируйте изображения на FPGA Используя квантованную сеть DAG

В этом примере вы используете Тулбокс HDL Глубокого обучения, чтобы развернуть квантованную глубокую сверточную нейронную сеть и классифицировать изображение. Пример использует предварительно обученную сверточную нейронную сеть ResNet-18, чтобы продемонстрировать передачу обучения, квантование и развертывание для квантованной сети. Используйте MATLAB ®, чтобы получить результаты предсказания.

Скрипт Open Live Script

Документация Deep Learning HDL Toolbox

Поддержка

Для просмотра документации необходимо авторизоваться на сайте