Определите область значений чисел фиксированной точки

Переменные фиксированной точки имеют ограниченный диапазон по той же причине, они ограничили точность — потому что цифровые системы представляют числа с конечным числом битов. Как общий пример, рассмотрите случай, где целое число представлено как слово фиксированной точки размера ws. Областью значений для слов без знака и со знаком дают

max(Q)min(Q),

где

min(Q)={0           без знака,2ws1  со знаком,max(Q)={ 2ws1   без знака,  2ws11со знаком.  

Используя генерала [Наклонное Смещение] схема кодирования, описанная в Масштабировании, аппроксимированное реальное значение имеет область значений

max(V˜)min(V˜),

где

min(V˜)={B                           без знака,F2E(2ws1)+B  со знаком,max(V˜)={ F2E(2ws1)+B   без знака,  F2E(2ws11)+B со знаком.  

Если реальное значение превышает ограниченный диапазон приближенного значения, то точность представления может стать значительно хуже.

Для просмотра документации необходимо авторизоваться на сайте