プログラミングの為の数学と算数 vol.2at TECH
プログラミングの為の数学と算数 vol.2 - 暇つぶし2ch426:423
06/03/10 01:16:10
>>425
画像処理で使用するため浮動小数点は、できるだけ使用しないようにしています。
ちなみにバージョンA,Bともに四捨五入をするときは
ret = (a / b) + 0.5
 = (a / b) + (1 / 2)
 = (2 * a + b) / (2 * b) ←通分(だったっけ?)
のように0.5を足すようにしています。


次ページ
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch