fixptbestexp

Экспонента, которая дает лучшую точность для представления значения с фиксированной точкой

Синтаксис

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned)
out = fixptbestexp(RealWorldValue, FixPtDataType)

Описание

out = fixptbestexp(RealWorldValue, TotalBits, IsSigned) возвращает экспоненту, которая дает лучшую точность для представления RealWorldValue с фиксированной точкой. TotalBits задает количество бит для номера с фиксированной точкой. IsSigned определяет, подписан ли номер с фиксированной точкой: 1 указывает, что номер подписан и 0 указывает, что номер не подписан.

out = fixptbestexp(RealWorldValue, FixPtDataType) возвращает экспоненту, которая дает лучшую точность на основе типа данных FixPtDataType.

Примеры

Получите экспоненту, которая дает лучшую точность для реального значения 4/3 с помощью знакового, 16-битного числа:

out = fixptbestexp(4/3,16,1)
out =
   -14

Кроме того, задайте тип данных с фиксированной точкой:

out = fixptbestexp(4/3,sfix(16))
out =
   -14

Это показывает, что представление максимальной точности 4/3 получается путем размещения 14 бит справа от двоичной точки:

01.01010101010101

Можно задать точность этого представления в блоках с фиксированной точкой, установив масштабирование на 2^-14 или 2^fixptbestexp(4/3,16,1).

См. также

Представлено до R2006a
Для просмотра документации необходимо авторизоваться на сайте