09/02/23 20:22:10 JKBRWfYb
みんな知っていることだと思うけど、>>638の誤差云々という話についても書いておく。
1.浮動小数点に関して、==で比較してはならない。
2つの浮動小数点数の差を取り、その絶対値が誤差限界より小さい時には、等しいものと判定するようにする。
2.浮動小数点同士の計算は一番最後に行う。
誤差の蓄積を防ぐため。上手いこと計算の順序を変える。
3.一時的に整数型を使う
0.1を10回足し算する計算を、0.1を10倍して1にしてから10回足して、その後に10で割る。
固定小数点の中でも、特に整数部と小数部を分けた固定小数点はバグの温床になりやすい。
正直いらんお世話だと思うが、1人でも悩んでいるのならとおもって書いておいた。