Exponenta Banner

quantize

Квантуйте числа фиксированной точки

свернуть все на странице

quantize не рекомендуется. Использование cast, zeros, ones, eye, или subsasgn вместо этого. Для получения дополнительной информации см. Вопросы совместимости.

Синтаксис

y = quantize(x)
y = quantize(x,nt)
y = quantize(x,nt,rm)
y = quantize(x,nt,rm,oa)
yBP = quantize(x,s)
yBP = quantize(x,s,wl)
yBP = quantize(x,s,wl,fl)
yBP = quantize(x,s,wl,fl,rm)
yBP = quantize(x,s,wl,fl,rm,oa)

Описание

Квантуйте Используя numerictype Объект

y = quantize(x) квантует вход x значения с помощью настроек по умолчанию.

numerictype, округление метода и действия переполнения применяется только во время квантования. Выход y не имеет присоединенного fimath.

пример

y = quantize(x,nt) квантует x к заданному numerictype, nt.

пример

y = quantize(x,nt,rm) квантует x к заданному numerictype, nt с помощью заданного метода округления, rm.

пример

y = quantize(x,nt,rm,oa) квантует x к заданному numerictype, nt с помощью заданного метода округления, rm, и действие переполнения, oa.

Квантуйте путем определения числовых свойств типа

yBP = quantize(x,s) квантует x к двоичной точке масштабировал номер фиксированной точки с s со знаком.

yBP = quantize(x,s,wl) квантует x к двоичной точке масштабировал номер фиксированной точки с s со знаком и размер слова wl.

пример

yBP = quantize(x,s,wl,fl) квантует x к двоичной точке масштабировал номер фиксированной точки с s со знаком, размер слова wl, и дробная длина fl.

пример

yBP = quantize(x,s,wl,fl,rm) квантует x к двоичной точке масштабировал номер фиксированной точки с s со знаком, размер слова wl, и дробная длина fl использование округления метода rm.

пример

yBP = quantize(x,s,wl,fl,rm,oa) квантует x к двоичной точке масштабировал номер фиксированной точки с s со знаком, размер слова wl, и дробная длина fl использование округления метода rm и действие переполнения oa.

Примеры

свернуть все

Скрипт Open Live Script

Задайте вход fi значение, чтобы квантовать. 

x_BP = fi(pi)
x_BP = 
    3.1416

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 16
        FractionLength: 13

Используйте numerictype Объект

Создайте numerictype объект, который задает тип данных с фиксированной точкой со знаком с 8-битным размером слова и 4-битной дробной длиной. 

ntBP = numerictype(1,8,4);

Используйте заданный numerictype объект ntBP квантовать вход x_BP к двоичной точке масштабировал тип данных с фиксированной точкой. 

yBP1 = quantize(x_BP,ntBP)
yBP1 = 
    3.1250

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4

Задайте числовые свойства типа во входе

yBP2 = quantize(x_BP,1,8,4)
yBP2 = 
    3.1250

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4
Скрипт Open Live Script

Создайте numerictype объект, который задает наклонное смещение, масштабировал тип данных с фиксированной точкой. 

ntSB = numerictype('Scaling','SlopeBias',...
      'SlopeAdjustmentFactor',1.8,...
      'Bias',1,...
      'FixedExponent',-12);

Задайте вход fi значение, чтобы квантовать. 

x_BP = fi(pi)
x_BP = 
    3.1416

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 16
        FractionLength: 13

Используйте заданный numerictype ntSB квантовать вход x_BP к наклонному смещению масштабировал тип данных с фиксированной точкой. 

ySB1 = quantize(x_BP, ntSB)
ySB1 = 
    3.1415

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 0.000439453125
                  Bias: 1
Скрипт Open Live Script

Задайте вход fi значения, чтобы квантовать.

x_SB = fi(rand(5,3),numerictype('Scaling','SlopeBias','Bias',-0.125))
x_SB = 
    0.8147    0.0975    0.1576
    0.8750    0.2785    0.8750
    0.1270    0.5469    0.8750
    0.8750    0.8750    0.4854
    0.6324    0.8750    0.8003

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 3.0517578125e-5
                  Bias: -0.125

Используйте numerictype Объект

Создайте numerictype объект ntBP это указывает, что двоичная точка со знаком масштабировала тип данных с фиксированной точкой с 8-битным размером слова и 4-битной дробной длиной. 

ntBP = numerictype(1,8,4);

Используйте заданный numerictype ntBP квантовать вход x_SB к двоичной точке масштабировал тип данных с фиксированной точкой. Кроме того, вокруг к самому близкому и насыщают на переполнении.

yBP1 = quantize(x_SB,ntBP,'Nearest','Saturate')
yBP1 = 
    0.8125    0.1250    0.1875
    0.8750    0.2500    0.8750
    0.1250    0.5625    0.8750
    0.8750    0.8750    0.5000
    0.6250    0.8750    0.8125

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4

Задайте числовые свойства типа во входе

yBP2 = quantize(x_SB,1,8,4,'Nearest','Saturate')
yBP2 = 
    0.8125    0.1250    0.1875
    0.8750    0.2500    0.8750
    0.1250    0.5625    0.8750
    0.8750    0.8750    0.5000
    0.6250    0.8750    0.8125

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4
Скрипт Open Live Script

Задайте вход fi значения, чтобы квантовать. 

x_SB = fi(rand(5,3),numerictype('Scaling','SlopeBias','Bias',-0.125))
x_SB = 
    0.8147    0.0975    0.1576
    0.8750    0.2785    0.8750
    0.1270    0.5469    0.8750
    0.8750    0.8750    0.4854
    0.6324    0.8750    0.8003

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 3.0517578125e-5
                  Bias: -0.125

Создайте numerictype объект, который задает наклонное смещение, масштабировал тип данных с фиксированной точкой. 

ntSB = numerictype('Scaling','SlopeBias', ...
      'SlopeAdjustmentFactor',1.8,'Bias',...
      1,'FixedExponent',-12);

Используйте заданный numerictype ntSB квантовать вход x_SB к наклонному смещению масштабировал тип данных с фиксированной точкой. Additionall, вокруг к потолку.

ySB2 = quantize(x_SB,ntSB,'Ceiling')
ySB2 = 
    0.8150    0.0978    0.1580
    0.8752    0.2789    0.8752
    0.1272    0.5469    0.8752
    0.8752    0.8752    0.4854
    0.6326    0.8752    0.8005

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 0.000439453125
                  Bias: 1
Скрипт Open Live Script

Задайте входные значения, чтобы квантовать. 

xInt = int8(-16:4:16)
xInt = 1x9 int8 row vector

   -16   -12    -8    -4     0     4     8    12    16

Используйте numerictype Объект

Создайте numerictype объект, который задает двоичную точку со знаком, масштабировал тип данных с фиксированной точкой с 8-битным размером слова и 4-битной дробной длиной. 

ntBP = numerictype(1,8,4);

Используйте заданный numerictype ntBP квантовать вход xInt к двоичной точке масштабировал тип данных с фиксированной точкой. 

yBP1 = quantize(xInt,ntBP,'Zero')
yBP1 = 
     0     4    -8    -4     0     4    -8    -4     0

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4

Покажите область значений квантованного выхода. 

range(yBP1)
ans = 
   -8.0000    7.9375

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4

Первые два и последние три значения перенесены, потому что они находятся вне представимой области значений выходного типа.

Задайте числовые свойства типа во входе

yBP2 = quantize(xInt,1,8,4,'Zero')
yBP2 = 
     0     4    -8    -4     0     4    -8    -4     0

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 8
        FractionLength: 4
Скрипт Open Live Script

Задайте входные значения, чтобы квантовать. 

xInt = int8(-16:4:16)
xInt = 1x9 int8 row vector

   -16   -12    -8    -4     0     4     8    12    16

Создайте numerictype объект, который задает наклонное смещение, масштабировал тип данных с фиксированной точкой. 

ntSB = numerictype('Scaling','SlopeBias', ...
      'SlopeAdjustmentFactor',1.8,'Bias',...
      1,'FixedExponent',-12);

Используйте заданный numerictype ntSB квантовать вход xInt к наклонному смещению масштабировал тип данных с фиксированной точкой. 

ySB = quantize(xInt,ntSB,'Round','Saturate')
ySB = 
  Columns 1 through 7
  -13.4000  -11.9814   -7.9877   -3.9939   -0.0002    3.9936    7.9873
  Columns 8 through 9
   11.9811   15.3996

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 0.000439453125
                  Bias: 1

Покажите область значений квантованного выхода. 

range(ySB)
ans = 
  -13.4000   15.3996

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 16
                 Slope: 0.000439453125
                  Bias: 1

Первые и последние значения насыщают, потому что они - в пределах его представимая область значений выходного типа.

Входные параметры

свернуть все

Входные данные, чтобы квантовать в виде:

  • Встроенные целые числа со знаком или беззнаковое целое

  • Двоичная точка масштабировала фиксированную точку fi

  • Наклонное смещение масштабировало фиксированную точку fi

Несмотря на то, что fi удваивается и fi одиночные игры позволены как входные параметры, они проходят quantize функция без того, чтобы быть квантованным.

Типы данных: int8 | int16 | int32 | int64 | uint8 | uint16 | uint32 | uint64 | fi
Поддержка комплексного числа: Да

numerictype объект, который описывает тип данных с фиксированной точкой.

Округление метода, чтобы использовать для квантования в виде одного из следующего:

  • 'Ceiling' — Окружите к следующему допустимому квантованному значению.

  • 'Convergent' — Вокруг к самому близкому допустимому квантованному значению. Числа, которые являются точно промежуточными между двумя самыми близкими допустимыми квантованными значениями, окружены, только если младший значащий бит после округления был бы установлен в 0.

  • 'Floor' — Округлите в меньшую сторону до следующего допустимого квантованного значения.

  • 'Nearest' — Вокруг к самому близкому допустимому квантованному значению. Окружены числа, которые являются промежуточными между двумя самыми близкими допустимыми квантованными значениями.

  • 'Round' — Вокруг к самому близкому допустимому квантованному значению. Числа, которые являются промежуточными между двумя самыми близкими допустимыми квантованными значениями, окружены в абсолютном значении.

  • 'Zero' — Округлите в большую сторону отрицательные числа и положительные числа вниз к следующему допустимому квантованному значению.

Типы данных: char

Действие, чтобы взять переполнение в виде одного из этих значений:

  • 'Saturate' — Переполнение насыщает.

    Когда значения данных, которые будут квантованы, лежат вне области значений самых больших и самых маленьких представимых чисел, как задано числовыми свойствами типа, эти значения квантуются к значению или самого большого или наименьшего представимого значения, в зависимости от которого является самым близким.

  • 'Wrap' — Переполнение переносится.

    Когда значения данных, которые будут квантованы, лежат вне области значений самых больших и самых маленьких представимых чисел, как задано числовыми свойствами типа, эти значения перенесены назад в ту область значений с помощью арифметики в остаточных классах относительно самого маленького представимого номера.

Типы данных: char

Со знаком из квантованного номера фиксированной точки в виде 1 (подписанный) или 0 (без знака).

Типы данных: single | double | int8 | int16 | int32 | int64 | uint8 | uint16 | uint32 | uint64 | logical

Размер слова сохраненного целочисленного значения выходных данных, в битах.

Дробная продолжительность квантованного значения в виде скалярного целого числа.

Типы данных: single | double | int8 | int16 | int32 | int64 | uint8 | uint16 | uint32 | uint64

Вопросы совместимости

развернуть все

Не рекомендуемый запуск в R2013a

Расширенные возможности

Генерация кода C/C++
Генерация кода C и C++ с помощью MATLAB® Coder™.

Смотрите также

| | |

Представлено до R2006a

Документация Fixed-Point Designer

Поддержка