Квантование

Q квантования реального значения V представлена взвешенной суммой бит. В контексте схемы кодирования общего наклона и смещения, значение неподписанной величины с фиксированной точкой задается как

$\tilde{V} = S . [\sum_{i = 0}^{w s - 1} b_{i} 2^{i}] + B,$

в то время как значение подписанной величины с фиксированной точкой задается как

$\tilde{V} = S . [- b_{w s - 1} 2^{w s - 1} + \sum_{i = 0}^{w s - 2} b_{i} 2^{i}] + B,$

где

$b_{i}$ являются двоичными цифрами, с $b_{i} = 1, 0$ , для $i = 0, 1, ..., w s - 1$
Размер слова в битах задается ws, с ws = 1, 2, 3..., 128.
S задается как $F = 2^{E}$ , где масштабирование не ограничено, потому что двоичная точка не должна совпадать со словом.

$b_{i}$ называются битовые умножители и $2^{i}$ называются весами.

Формат с фиксированной точкой

Форматы для 8-битных значений со знаком и без знака с фиксированной точкой показаны на следующем рисунке.

Обратите внимание, что вы не можете определить, являются ли эти номера подписанными или неподписанными типами данных просто с помощью проверки, поскольку эта информация явно не закодирована в слове.

Двоичное число 0011.0101 приводит к тому же значению для представления без знака и двух дополнений, потому что MSB = 0. Установка B = 0 и используя соответствующие веса, биты и масштабирование, значение является

$\begin{matrix} \tilde{V} = (F 2^{E}) Q = 2^{E} [\sum_{i = 0}^{w s - 1} b_{i} 2^{i}] \\ = 2^{- 4} (0 \times 2^{7} + 0 \times 2^{6} + 1 \times 2^{5} + 1 \times 2^{4} + 0 \times 2^{3} + 1 \times 2^{2} + 0 \times 2^{1} + 1 \times 2^{0}) \\ = 3.3125. \end{matrix}$

И наоборот, двоичное число 1011.0101 приводит к различным значениям для представления без знака и двух комплементов, поскольку MSB = 1.

Установка B = 0 и используя соответствующие веса, биты и масштабирование, беззнаковое значение

$\begin{matrix} \tilde{V} = (F 2^{E}) Q = 2^{E} [\sum_{i = 0}^{w s - 1} b_{i} 2^{i}] \\ = 2^{- 4} (1 \times 2^{7} + 0 \times 2^{6} + 1 \times 2^{5} + 1 \times 2^{4} + 0 \times 2^{3} + 1 \times 2^{2} + 0 \times 2^{1} + 1 \times 2^{0}) \\ = 11.3125, \end{matrix}$

в то время как значение дополнения двух является

$\begin{matrix} \tilde{V} = (F 2^{E}) Q = 2^{E} [- b_{w s - 1} 2^{w s - 1} + \sum_{i = 0}^{w s - 2} b_{i} 2^{i}] \\ = 2^{- 4} (- 1 \times 2^{7} + 0 \times 2^{6} + 1 \times 2^{5} + 1 \times 2^{4} + 0 \times 2^{3} + 1 \times 2^{2} + 0 \times 2^{1} + 1 \times 2^{0}) \\ = - 4.6875. \end{matrix}$

Документация Fixed-Point Designer

Поддержка

Памятка переводчика

1. Если смысл перевода понятен, то лучше оставьте как есть и не придирайтесь к словам, синонимам и тому подобному. О вкусах не спорим.

2. Не дополняйте перевод комментариями “от себя”. В исправлении не должно появляться дополнительных смыслов и комментариев, отсутствующих в оригинале. Такие правки не получится интегрировать в алгоритме автоматического перевода.

3. Сохраняйте структуру оригинального текста - например, не разбивайте одно предложение на два.

4. Не имеет смысла однотипное исправление перевода какого-то термина во всех предложениях. Исправляйте только в одном месте. Когда Вашу правку одобрят, это исправление будет алгоритмически распространено и на другие части документации.

5. По иным вопросам, например если надо исправить заблокированное для перевода слово, обратитесь к редакторам через форму технической поддержки.