Exponenta Banner

Глубокое обучение INT8 квантование

Калибровка, валидация и развертывание квантованных предварительно обученных нейронных сетей для глубокого обучения

Увеличение пропускной способности, сокращение использования ресурсов и развертывание больших сетей на небольших целевых платах путем квантования глубоких нейронных сетей для глубокого обучения.

После калибровки предварительно обученной последовательной сети путем сбора данных инструментирования, квантуйте последовательную сеть и проверьте точность квантованной сети. После проверки квантованной сети сгенерируйте код для и разверните квантованную сеть.

Функции

расширить все

dlquantizationOptionsОпции квантования обученной глубокой нейронной сети
dlquantizerКвантуйте глубокую нейронную сеть к 8-битным масштабированным целочисленным типам данных
calibrateМоделируйте и собирайте области значений глубокой нейронной сети
validateКвантование и валидация глубокой нейронной сети
dlhdl.WorkflowНастройте рабочий процесс развертывания для глубокой нейронной сети
dlhdl.TargetСконфигурируйте интерфейс на целевой плате для развертывания рабочих процессов
compile Скомпилируйте объект рабочего процесса
deploy Развертывание указанной нейронной сети на целевой плате FPGA
predictЗапуск вывода о развернутой сети и скорости профиля нейронной сети, развернутой на указанном целевом устройстве
releaseРазблокируйте подключение к целевому устройству
validateConnectionПроверьте SSH-соединение и развернутый битовый поток

Темы

Запуск

Поддерживаемые сети, слои, платы и инструменты

Предварительно обученные нейронные сети для глубокого обучения и слои сети, для которых код может быть сгенерирован Deep Learning HDL Toolbox™.

Квантование глубоких нейронных сетей

Осмыслите эффекты квантования и как визуализировать динамические области значений слоев свертки сети.

Рабочий процесс квантования

Необходимые условия рабочего процесса квантования

Продукты, необходимые для квантования нейронных сетей для глубокого обучения.

Калибровка

Моделируйте свою предварительно обученную сеть рядов и собирайте динамическую область значений весов и смещений.

Валидация

Квантуйте и проверьте предварительно обученные последовательные нейронные сети для глубокого обучения.

Генерация кода

Сгенерируйте код и разверните квантованную предварительно обученную нейронную сеть для глубокого обучения серии.

Рекомендуемые примеры

Quantize Network for FPGA Deployment

Квантование сети для развертывания FPGA

Квантуйте настраиваемые параметры в слоях свертки нейронной сети и проверьте квантованную сеть. Быстро прототипируйте квантованную сеть с помощью симуляции MATLAB или FPGA, чтобы подтвердить квантованную сеть. В этом примере вы квантуете нейронную сеть LogoNet.

Открыть Live Script
Deploy Quantized Network Example

Пример развертывания квантованной сети

Обучите, скомпилируйте и разверните dlhdl. Объект рабочего процесса, который квантовал Alexnet как сетевой объект с помощью пакета поддержки Toolbox™ Deep Learning HDL для Xilinx FPGA и SoC. Квантование помогает уменьшить потребность глубокой нейронной сети в памяти путем квантования весов, смещений и активаций слоев сети до 8-битных масштабированных целочисленных типов данных. Используйте MATLAB ®, чтобы получить результаты предсказания с целевого устройства .

Открыть Live Script
Classify Images on an FPGA Using a Quantized DAG Network

Классификация изображений на FPGA с помощью квантованной сети DAG

В этом примере вы используете Глубокое Обучение HDL Toolbox, чтобы развернуть квантованную глубокую сверточную нейронную сеть и классифицировать изображение. Пример использует предварительно обученную ResNet-18 сверточную нейронную сеть, чтобы продемонстрировать передачу обучения, квантование и развертывание для квантованной сети. Используйте MATLAB ®, чтобы получить результаты предсказания.

Открыть Live Script

Deep Learning HDL Toolbox документация

Поддержка