10/06/09 12:08:50
>>528
内部は2進数なので、2進数だと無限小数になっちゃう
数は有限桁数で表すと誤差が出るんだよな。
もう少し先の桁まで出すと
% perl -e 'printf "%.20f\n", 90.1750;'
90.17499999999999715783
なので四捨五入だと切り捨ての方になっちゃうんだよね。
10/06/09 12:08:50
>>528
内部は2進数なので、2進数だと無限小数になっちゃう
数は有限桁数で表すと誤差が出るんだよな。
もう少し先の桁まで出すと
% perl -e 'printf "%.20f\n", 90.1750;'
90.17499999999999715783
なので四捨五入だと切り捨ての方になっちゃうんだよね。