Результаты целочисленной арифметики могут легко переполнить типа данных, выделенного для устройства хранения данных. Например, максимальное значение, которое можно сохранить в данных uint8
, 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.
Арифметические операторы MATLAB® и функции арифметики Image Processing Toolbox™ используют эти правила для целочисленной арифметики:
Значения, которые превышают область значений целочисленного типа, отсекаются или усеченные, к той области значений.
Округлены дробные значения.
Например, если типом данных является uint8
, результаты, больше, чем 255 (включая Inf
), установлены в 255. Таблица приводит некоторые дополнительные примеры.
Результат |
Класс | Отсеченное значение |
---|---|---|
300 |
|
255 |
-45 |
|
0 |
10.5 |
|
11 |