Результаты целого числа арифметики могут легко переполнить тип данных, отведенный для хранения. Например, максимальное значение, которое вы можете хранить в uint8 данные 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.
MATLAB® арифметические операторы и арифметические функции Image Processing Toolbox™ используют эти правила для целочисленной арифметики:
Значения, которые превышают область значений целого типа, обрезаются или обрезаются до этой области значений.
Дробные значения округлены.
Для примера, если тип данных uint8, результаты больше 255 (включая Inf) имеют значение 255. В таблице перечислены некоторые дополнительные примеры.
Результат | Класс | Обрезанное значение |
|---|---|---|
300 |
| 255 |
-45 |
| 0 |
10.5 |
| 11 |