exponenta event banner

Определение диапазона чисел с фиксированной точкой

Переменные с фиксированной точкой имеют ограниченный диапазон по той же причине, что и ограниченная точность - потому что цифровые системы представляют числа с конечным числом битов. В качестве общего примера рассмотрим случай, когда целое число представлено в виде слова с фиксированной точкой размера ws. Диапазон для подписанных и неподписанных слов задается

max (Q) min (Q),

где

минута (Q) = { 0         неподписанных, −2ws−1 подписались,  макс. (Q) = {2ws−1    неподписанный ,  2ws−1−1signed.  

Используя общую схему кодирования [Slope Bias], описанную в разделе Масштабирование, приблизительное реальное значение имеет диапазон

max () min (V˜),

где

min () =  { B         без знака ,  −    F2E  (   2ws  − 1) + B со знаком, max ( ) = {F2E (2ws 1) + B без знака ,  F2E (2ws −  1 1) + B  со знаком.  

Если действительное значение превышает ограниченный диапазон приближенного значения, то точность представления может стать значительно хуже.