Точность

Ограничения на точность, эффекты округления и заполнения

Компьютерные слова состоят из конечного числа бит. Это означает, что двоичное кодирование переменных является только приближением произвольно точного значения реального мира. Поэтому ограничения двоичного представления автоматически вводят ограничения на точность значения.

Темы

Область значений и точность

Область значений чисел задаёт пределы представления, в то время как точность задает расстояние между последовательными числами в представлении. Области значений и точность числа с фиксированной точкой зависят от длины слова и масштабирования.

Максимизация точности

Чтобы максимизировать точность, сделайте уклон как можно меньшим, сохраняя область значений адекватно большим.

Округление

Округление включает переход от высокой точности к более низкой точности и вызывает ошибки квантования и вычислительный шум.

Режимы округления для блоков Simulink с фиксированной точкой

Система с фиксированной точкой Simulink® блоки поддерживают семь различных режимов округления.

Точность сетевого наклона и смещения

Точность сетевого наклона и смещения, обнаружение потерь точности, нижнего потока и переполнения.

Обнаружение потерь постоянной точности с фиксированной точностью

Этот пример показывает, как обнаружить постоянные потери точности с фиксированной точностью.

Используйте масштабированные двойки, чтобы избежать потерь точности

Как избежать потери точности путем переопределения типов данных в вашей модели с масштабированными двойками.

Рекомендуемые примеры