Документация

Область значений

Следующая фигура иллюстрирует область значений представимых чисел для количества фиксированной точки без знака размера ws, масштабируясь S, и смещения B.

Следующая фигура иллюстрирует область значений представимых чисел для дополнительного количества фиксированной точки two размера ws, масштабируясь S, и смещения B, где значения ws, масштабируясь S, и смещения B допускают и отрицательные и положительные числа.

И для количеств фиксированной точки без знака и для со знаком любого типа данных, количество различных комбинаций двоичных разрядов ^2ws.

Например, если тип данных с фиксированной точкой является целым числом с масштабированием заданного как $$S=1$$ и B = 0, затем максимальное значение без знака $$2^{ws-1}$$, потому что нуль должен быть представлен. В дополнении two отрицательные числа должны быть представлены, а также нуль, таким образом, максимальное значение $$2^{ws-1}-1$$. Кроме того, с тех пор существует только одно представление для нуля, должно быть неравное количество положительных и отрицательных чисел. Это означает, что существует представление для $$-2^{ws-1}$$ но не для $$2^{ws-1}$$.

Точность

Точность типа данных дана наклоном. В этом использовании точность означает различие между соседними представимыми значениями.

Параметры типа данных с фиксированной точкой

Низкий предел, высокий предел и единственное двоичной точкой масштабирование по умолчанию для поддерживаемых типов данных с фиксированной точкой, обсужденных в Единственном двоичной точкой Масштабировании, даны в следующей таблице. SeeLimitations на Точности и Ограничения на Область значений для получения дополнительной информации.

s = наклон, b = смещение, ws = WordLength, fl = FractionLength

Область значений 8-битного типа данных с фиксированной точкой — единственное двоичной точкой масштабирование

Точность, область значений значений со знаком и область значений значений без знака для 8-битного обобщенного типа данных с фиксированной точкой с единственным двоичной точкой масштабированием перечислены в следовать таблице. Обратите внимание на то, что первое значение масштабирования ⁽²¹⁾ представляет двоичную точку, которая не непрерывна со словом.

Область значений 8-битного типа данных с фиксированной точкой — наклон и масштабирование смещения

Точность и области значений значений без знака и со знаком для 8-битного типа данных с фиксированной точкой с помощью наклона и масштабирования смещения перечислены в следующей таблице. Наклон запускается в значении 1.25 со смещением 1.0 для всех наклонов. Обратите внимание на то, что наклон совпадает с точностью.