Результаты целочисленной арифметики могут легко переполнить типа данных, выделенного для устройства хранения данных. Например, максимальное значение можно сохранить в uint8 данные 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.
MATLAB® арифметические операторы и функции арифметики Image Processing Toolbox™ используют эти правила для целочисленной арифметики:
Значения, которые превышают область значений целочисленного типа, отсекаются или усеченные, к той области значений.
Округлены дробные значения.
Например, если типом данных является uint8, результаты, больше, чем 255 (включая Inf) установлены в 255. Таблица приводит некоторые дополнительные примеры.
Результат | тип данных | Отсеченное значение |
|---|---|---|
300 |
| 255 |
-45 |
| 0 |
10.5 |
| 11 |