Вычисление нормированного обратного значения
[
возвращает y
,e
] = normalizedReciprocal(u
)y
и e
таким что (2.
и ^ e
).* y
= 1. / u
0,5 < abs
.(y
) <= 1
Если
и u
= 0u
является типом данных с фиксированной точкой или масштабируемо-двойной точкой, затем
и y
= 2 - eps (y
)
, где w - размер слова e
= 2^ (nextpow2 (<reservedrangesplaceholder2>)) – w + fu
и f - длина дроби u
.
Если
и u
= 0u
- тип данных с плавающей точкой, затем
и y
= Inf
.t
= 1