02/03/17 00:04
その前の問題として 数値の持ち方の問題があるんじゃない？
２進で表現すると
5.5 101.1と 誤差無くもてるけど、8.9=1000.1110011001100110011 と誤差無く持てない
02/03/17 00:04
その前の問題として 数値の持ち方の問題があるんじゃない？
２進で表現すると
5.5 101.1と 誤差無くもてるけど、8.9=1000.1110011001100110011 と誤差無く持てない
02/03/17 00:04
その前の問題として 数値の持ち方の問題があるんじゃない？
２進で表現すると
5.5 101.1と 誤差無くもてるけど、8.9=1000.1110011001100110011 と誤差無く持てない