くだすれFORTRAN（超初心者用）その4at TECHくだすれFORTRAN（超初心者用）その4 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト20:19 09/01/28 18:05:01 あ…すいません、FWもCOMMON文中に定義してありました。 21:デフォルトの名無しさん 09/01/29 01:01:07 >>19 単精度なら有効桁からいって７～８桁目にゴミが出てもおかしくない。 ゆえに気にするな。 フォーマットを与えずに＊で書かせれば、自動的に精度の範囲内で出力するので ゴミは見えなくなるだろう。フォーマットは浮動小数点での表現を単に何桁でも 十進法に直して書くだけだから、単精度でもF30.20とか書けば小数点以下２０桁とか 書いてくれるが、有効数字的には６～７個しか意味ない。 22:19 09/01/29 09:49:23 >>21 回答ありがとうございます。なるほど、７～８桁目は有効数字外なんですね。 実害があってですね、粒子の位置の判定ををするとき、粒子の位置Xを セルの幅CWで割って、 LCX=(X/CW)+0.999999 //Xが3.5、CWが1だとすると4.499999、整数に代入して4で4番目のセルに入る みたいな処理があるんです。このとき、CWがずれてるとセルナンバーが大きいところだと、 想定外の変なセルに入っちゃう粒子が増えてきます。でも有効数字の問題だとすると、倍精度にしたとしても、 頻度は減るにせよ、根本的解決ではないってことになりますね？やっぱりこの処理自体に問題があるんでしょうか？ 問題があるとしたらどういう方法にするべきでしょうか？ 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch