複素数・虚数総合スレat MATH
複素数・虚数総合スレ - 暇つぶし2ch80:132人目の素数さん
11/09/26 20:07:34.33
>>78
>>> 浮動少数だと加法も乗法もどちらも発生誤差があるからね。
>これ。計算機で浮動小数点を用いても、誤差が入り込まない場合だってある。

ほとんどの場合に誤差があるじゃん。
ほとんどってのは、例えば、64ビットの浮動小数にユニフォームな確率分布を入れて考えて。
それに対して>>69 は対数表現だと乗法では確率1で誤差が無いって言ってるんだけど。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch