Результаты целочисленной арифметики могут легко переполнить типа данных, выделенного для устройства хранения данных. Например, максимальное значение можно сохранить в uint8 данные 255. Арифметические операции могут также привести к дробным значениям, которые не могут быть представлены с помощью целочисленных массивов.
Арифметические операторы MATLAB® и функции арифметики Image Processing Toolbox™ используют эти правила для целочисленной арифметики:
Значения, которые превышают область значений целочисленного типа, отсекаются или усеченные, к той области значений.
Округлены дробные значения.
Например, если типом данных является uint8, результаты, больше, чем 255 (включая Inf) установлены в 255. Таблица приводит некоторые дополнительные примеры.
|
Результат |
Класс | Отсеченное значение |
|---|---|---|
|
300 |
|
255 |
|
-45 |
|
0 |
|
10.5 |
|
11 |