17/02/14 03:10:02.73 NGEQ6cbs.net
>>849
>floatは計算誤差がでるものなんですよ
>キッチリしたかったらint変数で分数A/Bにして計算すると良い
まあそうなんだけどね。
この疑問の争点はそこではなくて、
0.1という値を二進数ではどう扱ってるのか？という問題なのだよ
二進数で「0.0001」は10進数では「0.0625」
二進数で「0.0010」は10進数では「0.125」
二進数で「0.0011」は10進数では「0.1875」
という値になるわけですよ。
イクセス表現というのが小数点の計算をミスする原因になっている