09/01/29 09:49:23
>>21
回答ありがとうございます。なるほど、７～８桁目は有効数字外なんですね。
実害があってですね、粒子の位置の判定ををするとき、粒子の位置Xを
セルの幅CWで割って、
LCX=(X/CW)+0.999999 //Xが3.5、CWが1だとすると4.499999、整数に代入して4で4番目のセルに入る
みたいな処理があるんです。このとき、CWがずれてるとセルナンバーが大きいところだと、
想定外の変なセルに入っちゃう粒子が増えてきます。でも有効数字の問題だとすると、倍精度にしたとしても、
頻度は減るにせよ、根本的解決ではないってことになりますね？やっぱりこの処理自体に問題があるんでしょうか？
問題があるとしたらどういう方法にするべきでしょうか？