複素数・虚数総合スレat MATH
複素数・虚数総合スレ - 暇つぶし2ch73:132人目の素数さん
11/09/26 14:16:56.09
>>72 ソレってどれ?
overflowやunderflowという考えは、いずれも、「演算結果」としての概念。
だから、その理解は71で書いた内容とは異なる

71では、浮動小数点方式での加算、乗算結果に誤差が含まれる場合があるのは、
演算自体ではなく、浮動小数点に直すとき、つまり、エンコード時に誤差が
発生していることがある事を指摘している。

多くの小数は、浮動小数点に直すときに誤差が含まれる。従って、それを用いた
加算や乗算結果は必然的に誤差を含む。
浮動小数点で予め登録されている小数は、浮動小数点に直しても、誤差が含まれない。
そのような値同士の加算や乗算結果は、誤差を含まない場合もあるが、含む場合もある。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch