Компьютерные слова состоят из конечные числа битов. Это означает, что бинарное кодирование переменных является только приближением произвольно точного реального значения. Поэтому ограничения бинарного представления автоматически вводят ограничения на точность значения. Для общего обсуждения области значений и точности, относитесь, чтобы Расположиться и Точность.
Точность слова фиксированной точки зависит от местоположения размера и двоичной точки слова. Расширение точности слова может всегда выполняться с большим количеством битов, но вы сталкиваетесь с практическими ограничениями с этим подходом. Вместо этого необходимо тщательно выбрать тип данных, размер слова и масштабирование таким образом, что числа точно представлены. Округление и дополнение конечными нулями являются типичными методами, реализованными на процессорах, чтобы иметь дело с точностью двоичных слов.
