19/06/23 15:22:02.08 swNRnu090.net
>>32
マジレスすると浮動小数点は内部で2^nの有限和でしか表現できないから(nはマイナスもあり)。
10進数に変換すると誤差が出る。
これで分からないなら諦めろ。
19/06/23 15:22:02.08 swNRnu090.net
>>32
マジレスすると浮動小数点は内部で2^nの有限和でしか表現できないから(nはマイナスもあり)。
10進数に変換すると誤差が出る。
これで分からないなら諦めろ。
19/06/23 15:22:02.08 swNRnu090.net
>>32
マジレスすると浮動小数点は内部で2^nの有限和でしか表現できないから(nはマイナスもあり)。
10進数に変換すると誤差が出る。
これで分からないなら諦めろ。