13/11/19 12:53:25.20 giYpNPbf
>>625
つたないですが小数点について。
コンピュータは小数点も二進数で記録するから、割り切れてるように見えて正確じゃない場合がある。
具体的には1/2+1/2^2+1/2^3+・・・しか表せないので、0.5は正確だけど0.2は0.199993みたいな数字しか記録出来てない。
例えば>>466にあるような充足値の計算で、
2 × 1000 / 5 となった場合に分子を先に計算して5で割れば正確だけど、
2/5を先に計算したり最後に1/5の答えを掛けたりすると誤差が出る。
というわけで、実際の計算順や切り捨て操作の組み合わせで一致させられるのでは？と思ったわけです。