Числовая область значений fi или quantizer объект
fi Объект возвращает y = range(a)fi объект с минимальными и максимальными возможными значениями fi объект a. Все возможные квантованные реальные значения a находятся в возвращенной области значений. Если a комплексное число, затем все возможные значения real(a) и imag(a) находятся в возвращенной области значений.
quantizer ОбъектЕсли q quantizer с плавающей точкой объект, min_q = -realmax(q) и max_q = realmax(q).
Если q фиксированная точка со знаком quantizer объект (datamode = 'fixed')то
min_q = −realmax (q) − eps (q) = −2w−1/2f
max_q = realmax (q) = (2w−1 − 1)/2f
где w является размером слова, и f является дробной длиной.
Если q фиксированная точка без знака quantizer объект (datamode = 'ufixed'),
a = 0
b = realmax (q) = (2w − 1)/2f
Смотрите realmax для получения дополнительной информации.
eps | exponentmax | exponentmin | fractionlength | intmax | intmin | lowerbound | lsb | max | min | realmax | realmin | upperbound