fixptbestexp

Экспонента, которая дает лучшую точность для представления фиксированной точки значения

Синтаксис

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned)
out = fixptbestexp(RealWorldValue, FixPtDataType)

Описание

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned) возвращает экспоненту, которая дает лучшую точность для представления фиксированной точки RealWorldValue. TotalBits задает количество битов для номера фиксированной точки. IsSigned задает, подписывается ли номер фиксированной точки: 1 указывает, что номер подписывается, и 0 указывает, что номер не подписывается.

out = fixptbestexp(RealWorldValue, FixPtDataType) возвращает экспоненту, которая дает лучшую точность на основе типа данных FixPtDataType.

Примеры

Получите экспоненту, которая дает лучшую точность для реального значения 4/3 использование 16-битного номера со знаком:

out = fixptbestexp(4/3,16,1)
out =
   -14

Также задайте тип данных с фиксированной точкой:

out = fixptbestexp(4/3,sfix(16))
out =
   -14

Это показывает, что представление максимальной точности 4/3 получено путем размещения 14 битов справа от двоичной точки:

01.01010101010101

Можно задать точность этого представления в блоках фиксированной точки путем установки масштабирования на 2^-14 или 2^fixptbestexp(4/3,16,1).

Смотрите также

Представлено до R2006a

Для просмотра документации необходимо авторизоваться на сайте