この章では、数値誤差の解析については説明していません。ここでは、Fortran 95 によって実装された IEEE 浮動小数点モデルを紹介します。 6.2 IEEE 浮動小数点演算 IEEE 演算は、無効演算、ゼロ除算、オーバーフロー、アンダーフロー、結果不正確などの問題を発生させる算術演算を取り扱う、比較的...
悪性の相殺は、オペランドが丸め誤差の影響を受ける場合に生じます。例えば、二次方程式の根の公式の中にある b2 - 4ac の場合です。b2 と4ac は浮動小数点の乗算の結果となるので、いずれも丸め誤差の影響を受けます。仮にこれらの値が、最も近い浮動小数点数に丸められ、精度が 0.5 ulp 以内に...
この章では、数値誤差の解析については説明していません。ここでは、Sun WorkShop Fortran コンパイラによって実装された IEEE 浮動小数点モデルを紹介します。 IEEE 浮動小数点演算 IEEE 演算は、無効演算、ゼロ除算、オーバーフロー、アンダーフロー、結果不正確などの問題を発生させる算術演算を...