Ограничения на точность и ошибки

Переменные фиксированной точки имеют ограниченную точность, потому что цифровые системы представляют числа с конечным числом битов. Например, предположите, что необходимо представлять реальный номер 35.375 с номером фиксированной точки. Используя схему кодирования, описанную в Масштабировании, представление

VV˜=SQ+B=22Q+32,

где V = 35.375.

Двумя самыми близкими приближениями к реальному значению является Q = 13 и Q = 14:

V˜=22(13)+32=35.25,V˜=22(14)+32=35.50.

В любом случае абсолютная погрешность является тем же самым:

|V˜V|=0.125=S2=F2E2.

Для значений фиксированной точки в ограниченном диапазоне это представляет ошибку худшего случая, если раунд-к-самому-близкому используется. Если другие режимы округления используются, ошибка худшего случая может быть вдвое более большой:

|V˜V|<F2E.