DXライブラリ 総合スレッド 2008at GAMEDEV
DXライブラリ 総合スレッド 2008 - 暇つぶし2ch641:名前は開発中のものです。
09/02/23 20:22:10 JKBRWfYb
みんな知っていることだと思うけど、>>638の誤差云々という話についても書いておく。
1.浮動小数点に関して、==で比較してはならない。
 2つの浮動小数点数の差を取り、その絶対値が誤差限界より小さい時には、等しいものと判定するようにする。
2.浮動小数点同士の計算は一番最後に行う。
 誤差の蓄積を防ぐため。上手いこと計算の順序を変える。
3.一時的に整数型を使う
 0.1を10回足し算する計算を、0.1を10倍して1にしてから10回足して、その後に10で割る。

固定小数点の中でも、特に整数部と小数部を分けた固定小数点はバグの温床になりやすい。
正直いらんお世話だと思うが、1人でも悩んでいるのならとおもって書いておいた。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch