Результаты целочисленной арифметики могут легко переполнить тип данных, назначенный для хранения. Например, максимальное значение, которое можно сохранить в uint8 данные - 255. Арифметические операции также могут приводить к дробным значениям, которые не могут быть представлены с помощью целых массивов.
Операторы арифметики MATLAB® и Обработка изображения функции арифметики Toolbox™ используют эти правила для целочисленной арифметики:
Значения, превышающие диапазон целочисленного типа, обрезаются или усекаются до этого диапазона.
Дробные значения округляются.
Например, если тип данных uint8, результаты более 255 (включая Inf) имеют значение 255. В таблице перечислены некоторые дополнительные примеры.
Результат | Класс | Отсеченное значение |
|---|---|---|
300 |
| 255 |
-45 |
| 0 |
10.5 |
| 11 |