スレ立てるまでもない質問はここで 116匹目at TECH
スレ立てるまでもない質問はここで 116匹目 - 暇つぶし2ch663:デフォルトの名無しさん
12/01/31 12:56:22.69
>>658
方法1:値のばらつきが小さい場合(1e-20から1e-22のように100倍程度とか)
計算途中は10の20乗倍くらいで累積。
最後に10の20乗倍くらいで割る。


方法2:値のばらつきが大きい場合(1e-3から1e-100のなど)
整数配列 int a[1000]を、1000桁の数字に見立てて、自分で乗除加減算を実装する。


方法3:Unix計のbcなど、任意桁数計算ライブラリを使う。
「任意精度演算 Wikipedia」で検索。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch