Можно представлять номер фиксированной точки общим наклоном и сместить схему кодирования
где:
произвольно точное реальное значение.
аппроксимированное реальное значение.
Q, хранимая сумма, является целым числом, которое кодирует V.
S = F2E является наклоном.
B является смещением.
Для операции броска,
или
где:
сетевой наклон.
сетевое смещение.
Проблемы точности могут произойти в константах фиксированной точки, сетевом наклонном и сетевом смещении, из-за ошибок квантования, когда вы преобразовываете от плавающей точки до фиксированной точки. Они фиксированная точка постоянные проблемы точности могут привести к числовой погрешности в вашей модели.
Можно сконфигурировать модель, чтобы предупредить вас, когда фиксированная точка постоянные проблемы точности происходит. Для получения дополнительной информации смотрите, Обнаруживают Сетевые Проблемы Точности Наклона и Смещения. Программное обеспечение Fixed-Point Designer™ предоставляет следующую информацию:
Тип проблемы точности: потеряйте значимость, переполнитесь, или потеря точности.
Исходное значение постоянной фиксированной точки.
Квантованное значение постоянной фиксированной точки.
Ошибка в значении постоянной фиксированной точки.
Блок, который ввел ошибку.
Эта информация предупреждает вас, что выходные параметры от этого блока не точны. Если возможно, изменение типы данных в вашей модели, чтобы устранить проблему.
Постоянная потеря значимости фиксированной точки происходит, когда программное обеспечение Fixed-Point Designer сталкивается с фиксированной точкой, постоянной, чей тип данных не имеет достаточной точности, чтобы представлять идеальное значение константы, потому что идеальное значение слишком близко к нулю. Кастинг идеального значения к типу данных с фиксированной точкой заставляет значение фиксированной точки, постоянной становиться нулем. Поэтому значение постоянной фиксированной точки отличается от своего идеального значения.
Постоянное переполнение фиксированной точки происходит, когда программное обеспечение Fixed-Point Designer преобразовывает фиксированную точку, постоянную в тип данных, область значений которого не является достаточно большой, чтобы снабдить идеальное значение константы с разумной точностью. Тип данных не может точно представлять идеальное значение, потому что идеальное значение является или слишком большим или слишком маленьким. Кастинг идеального значения к типу данных с фиксированной точкой вызывает переполнение. Например, предположите, что идеальным значением является 200
, и конвертированным типом данных является int8
. Переполнение происходит в этом случае, потому что максимальным значением, которое может представлять int8
, является 127
.
Программное обеспечение Fixed-Point Designer сообщает об ошибке переполнения, если квантованное значение отличается от идеального значения больше, чем точность для типа данных. Точность для типа данных приблизительно равна масштабированию значения по умолчанию (для получения дополнительной информации, смотрите Параметры Типа данных с фиксированной точкой.) Поэтому для положительных значений, программное обеспечение Fixed-Point Designer обрабатывает ошибки, больше, чем наклон как переполнение. Для отрицательных величин это обрабатывает ошибки, больше, чем или равный наклону как переполнение.
Например, максимальным значением, которое может представлять int8
, является 127
. Точностью для int8
является 1.0
. Идеальное значение 127.3
квантует к 127
с абсолютной погрешностью 0.3
. Несмотря на то, что идеальное значение, 127.3
больше, чем максимальное представимое значение для int8
, ошибка квантования, является маленьким относительно точности int8
. Поэтому программное обеспечение Fixed-Point Designer не сообщает о переполнении. Однако идеальное значение 128.1
действительно вызывает переполнение, потому что ошибкой квантования является 1.1
, который больше, чем точность для int8
.
Фиксированная точка постоянное переполнение отличается от фиксированной точки постоянная потеря точности. Потеря точности происходит, когда идеальное постоянное значение фиксированной точки в области значений текущего типа данных и масштабирования, но программное обеспечение не может представлять это значение точно.
Постоянная потеря точности фиксированной точки происходит, когда программное обеспечение Fixed-Point Designer преобразовывает фиксированную точку, постоянную в тип данных без достаточной точности, чтобы представлять точное значение константы. В результате квантованное значение отличается от идеального значения. Для примера этого поведения смотрите, Обнаруживают Фиксированную точку Постоянная Потеря Точности.
Фиксированная точка постоянная потеря точности отличается от фиксированной точки постоянное переполнение. Переполнение происходит, когда область значений типа данных параметров, то есть, максимальное значение, которое это может представлять, меньше, чем идеальное значение параметра.