Exponenta Banner
exponenta event banner

Глубокое обучение INT8 квантование

Калибровка, проверка и развертывание квантованных предварительно подготовленных сетей глубокого обучения серии

Увеличьте пропускную способность, сократите использование ресурсов и разместите большие сети на небольших целевых платах путем квантования сетей глубокого обучения.

После калибровки предварительно обученной последовательной сети путем сбора данных КИП квантуйте последовательную сеть и проверьте точность квантованной сети. Как только квантованная сеть подтверждена, генерируйте код для и развертывайте квантованную сеть.

Функции

развернуть все

dlquantizationOptionsВарианты квантования обученной глубокой нейронной сети
dlquantizerКвантование глубокой нейронной сети в 8-битные масштабированные целочисленные типы данных
calibrateМоделирование и сбор диапазонов глубокой нейронной сети
validateКвантование и проверка глубокой нейронной сети
dlhdl.WorkflowНастройка рабочего процесса развертывания нейронной сети глубокого обучения
dlhdl.TargetНастройка интерфейса для целевой платы для развертывания рабочего процесса
compile Компиляция объекта рабочего процесса
deploy Развертывание указанной нейронной сети на целевой плате FPGA
predictВывод о развертываемой сети и скорости профиля нейронной сети, развернутой на указанном целевом устройстве
releaseРазъединение подключения к целевому устройству
validateConnectionПроверка соединения SSH и развернутого битового потока

Темы

Начало работы

Поддерживаемые сети, слои, платы и инструменты

Предварительно обученные сети глубокого обучения и сетевые уровни, для которых может быть создан код с помощью Toolbox™ HDL Deep Learning.

Квантование глубоких нейронных сетей

Понимание эффектов квантования и способов визуализации динамических диапазонов уровней сетевой свертки.

Поток операций квантования

Предварительные условия потока операций квантования

Продукты, необходимые для квантования сетей глубокого обучения.

Калибровка

Смоделировать предварительно подготовленную сеть серии и собрать динамический диапазон весов и отклонений.

Проверка

Квантование и проверка предварительно подготовленной сети глубокого обучения серии.

Создание и развертывание кода

Создание кода и развертывание квантованной предварительно обученной сети глубокого обучения серии.

Характерные примеры

Quantize Network for FPGA Deployment

Квантование сети для развертывания FPGA

Квантование обучаемых параметров в слоях свертки нейронной сети и проверка достоверности квантованной сети. Быстрое создание прототипа квантованной сети с использованием моделирования MATLAB или FPGA для проверки достоверности квантованной сети. В этом примере выполняется квантование нейронной сети LogoNet.

Открыть сценарий в реальном времени
Deploy Quantized Network Example

Пример развертывания квантованной сети

Обучение, компиляция и развертывание dlhdl. Объект рабочего процесса, квантованный Alexnet как сетевой объект с помощью пакета поддержки Deep Learning HDL Toolbox™ для Xilinx FPGA и SoC. Квантование помогает уменьшить потребность в памяти глубокой нейронной сети за счет квантования весов, смещений и активизаций сетевых уровней до 8-битных масштабированных целочисленных типов данных. Используйте MATLAB ® для извлечения результатов прогнозирования из целевого устройства .

Открыть сценарий в реальном времени
Classify Images on an FPGA Using a Quantized DAG Network

Классификация изображений в FPGA с использованием квантованной сети DAG

В этом примере используется панель инструментов HDL Deep learning для развертывания квантованной глубокой сверточной нейронной сети и классификации изображения. В примере используется предварительно обученная ResNet-18 сверточная нейронная сеть для демонстрации обучения передаче, квантования и развертывания для квантованной сети. Используйте MATLAB ® для извлечения результатов прогнозирования.

Открыть сценарий в реальном времени

Документация по инструментам глубокого обучения HDL

Поддержка