Отобразите правила усечения арифметики

Результаты целочисленной арифметики могут легко переполнить типа данных, выделенного для устройства хранения данных. Например, максимальное значение можно сохранить в uint8 данные 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.

MATLAB® арифметические операторы и функции арифметики Image Processing Toolbox™ используют эти правила для целочисленной арифметики:

  • Значения, которые превышают область значений целочисленного типа, отсекаются или усеченные, к той области значений.

  • Округлены дробные значения.

Например, если типом данных является uint8, результаты, больше, чем 255 (включая Inf) установлены в 255. Таблица приводит некоторые дополнительные примеры.

Результат

тип данных

Отсеченное значение

300

uint8

255

-45

uint8

0

10.5

uint8

11

Похожие темы

Для просмотра документации необходимо авторизоваться на сайте