プログラミングの為の数学と算数 vol.2at TECH
プログラミングの為の数学と算数 vol.2 - 暇つぶし2ch423:デフォルトの名無しさん
06/03/10 00:06:04
符号付整数除算で四捨五入の処理について質問があります。
a÷b の結果を四捨五入して ret に取得する処理を以下のようにしました。

[バージョンA]
// 除数と被除数の符号チェック
if ((a ^ b) < 0) {
  // a, bが異符号
  // ret = (a / b) - (1 / 2)
  ret = (2 * a - b) / (2 * b);
}
else {
  // a, bが同符号
  // ret = (a / b) + (1 / 2)
  ret = (2 * a + b) / (2 * b)
}

この方法だと正の場合0.5→1、負の場合-0.5→-1となり
数値0に対して正負の結果が対称になります。

(続く・・・)


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch