Отобразите правила усечения арифметики

Результаты целочисленной арифметики могут легко переполнить типа данных, выделенного для устройства хранения данных. Например, максимальное значение, которое можно сохранить в данных uint8, 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.

Арифметические операторы MATLAB® и функции арифметики Image Processing Toolbox™ используют эти правила для целочисленной арифметики:

  • Значения, которые превышают область значений целочисленного типа, отсекаются или усеченные, к той области значений.

  • Округлены дробные значения.

Например, если типом данных является uint8, результаты, больше, чем 255 (включая Inf), установлены в 255. Таблица приводит некоторые дополнительные примеры.

Результат

Класс

Отсеченное значение

300

uint8

255

-45

uint8

0

10.5

uint8

11

Похожие темы

Для просмотра документации необходимо авторизоваться на сайте