くだすれFORTRAN(超初心者用)その5at TECH
くだすれFORTRAN(超初心者用)その5 - 暇つぶし2ch682:デフォルトの名無しさん
11/12/10 00:22:53.11
>>681
それは単精度なら、本来有効桁が7~8しかないから。
無理に桁数多く書かせることはできるが、それには意味がない。

どうしても意味ある数字を出したければ倍精度にすれば、14~15桁有効桁でおk。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch