Точность
Компьютерные слова состоят из конечного числа битов. Это означает, что бинарное кодирование переменных является только приближением произвольно точного реального значения. Поэтому ограничения бинарного представления автоматически вводят ограничения на точность значения.
Темы
Область значений номера дает пределы представления, в то время как точность дает расстояние между последовательными числами в представлении. Область значений и точность номера фиксированной точки зависят от длины слова и масштабирования.
Чтобы максимизировать точность, сделайте наклон как можно меньше при хранении области значений соответственно большой.
Округление включает попытку от высокой точности понизить точность и производит ошибки квантования и вычислительный шум.
- Округление режима: потолок
- Округление режима: конвергентный
- Округление режима: Пол
- Округление режима: Самый близкий
- Округление режима: Вокруг
- Округление режима: самый простой
- Округление режима: нуль
Округление режимов для блоков Simulink фиксированной точки
Фиксированная точка Simulink® блоки поддерживают семь различных режимов округления.
Сетевая наклонная и сетевая точность смещения
Сетевой наклон и точность смещения, обнаруживая потерю точности, потерю значимости и переполнение.
Обнаружьте фиксированную точку постоянная потеря точности
В этом примере показано, как обнаружить фиксированную точку постоянная потеря точности.
Используйте масштабированный, удваивается, чтобы избежать потери точности
Как избежать, чтобы потеря точности путем переопределения типов данных в модели с масштабированным удвоилась.
