08/08/06 08:19:28
>>35
正しくは、精度補償じゃなくて精度保証ね。
IEEE-754を前提として、浮動小数点数のラウンディングの方法(四捨五入、全て切り上げ、全て切り下げ)を制御ができる。
ラウンディングを「全て切り上げ」に設定して、線形代数の計算を1回行い、答えその1を得る。
次に、ラウンディングを「全て切り下げ」に設定して、同じ線形代数の計算をもう1回行い、答えその2を得る。
真の答え=( 答えその1 + 答えその2 ) / 2
精度=絶対値( 答えその1 - 答えその2 )
となる、という定理が証明されている。
インラインアセンブリについては URLリンク(www.oishi.info.waseda.ac.jp) を見よ。