プログラミングの為の数学と算数 vol.2at TECH
プログラミングの為の数学と算数 vol.2 - 暇つぶし2ch833:デフォルトの名無しさん
07/05/16 07:36:56
>>830
Web上にある情報を、どれも正しいと思うな
Q=trunc(X/D +0.5) と計算したい筈なのに

m = 2*n-------------------1)
R = (2^m - 1) / D ---------2)
Q = (R * X + 2^n) >> m ------3)  から>>m を2のベキに変更して
Q = (R * X + 2^n)/2^m   Rに代入して
Q = ((2^m - 1) / D * X + 2^n)/2^m
Q = (2^m - 1) /2^m * X/ D + 2^(n-m)
   ~~~~~~~~~~~~~~~~      ~~~~~~~
(2^m-1)/2^m は1ではない
2^(n-m) は 0.5 ではない

これは単に使いたかった範囲で巧くいっただけだろ


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch