プログラミングの為の数学と算数 vol.2at TECH
プログラミングの為の数学と算数 vol.2 - 暇つぶし2ch450:434
06/03/10 22:11:31
言い訳すると >>427 で 
>単純に0.5を足して切り捨てると除算結果が負数の場合に問題があるのです
に騙されてしまった。

単純に0.5を足して切り捨てるのをやりたかったのだろう。

ただ、X86では除算の結果が負数になる場合は余りも負数になる。
a/b= n余りsなら
a = n*b + s = s+b+(n-1)*b となる修正をすればいい
アセンブラで書けば、
  cdq
  idiv
  sqr edx,#31
  add eax,edx
と4命令



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch