Точность

Ограничения на точность, эффекты округления и дополнения

Компьютерные слова состоят из конечного числа битов. Это означает, что бинарное кодирование переменных является только приближением произвольно точного реального значения. Поэтому ограничения бинарного представления автоматически вводят ограничения на точность значения.

Темы

Область значений и точность

Область значений номера дает пределы представления, в то время как точность дает расстояние между последовательными числами в представлении. Область значений и точность номера фиксированной точки зависят от длины слова и масштабирования.

Максимизируйте точность

Чтобы максимизировать точность, сделайте наклон как можно меньше при хранении области значений соответственно большой.

Округление

Округление включает попытку от высокой точности понизить точность и производит ошибки квантования и вычислительный шум.

Округление режимов для блоков Simulink фиксированной точки

Блоки Fixed-point Simulink® поддерживают семь различных режимов округления.

Сетевая наклонная и сетевая точность смещения

Сетевой наклон и точность смещения, обнаруживая потерю точности, потерю значимости и переполнение.

Обнаружьте фиксированную точку постоянная потеря точности

В этом примере показано, как обнаружить фиксированную точку постоянная потеря точности.

Используйте масштабированный, удваивается, чтобы избежать потери точности

Как избежать, чтобы потеря точности путем переопределения типов данных в модели с масштабированным удвоилась.

Рекомендуемые примеры