プログラミングの為の数学と算数 vol.2at TECHプログラミングの為の数学と算数 vol.2 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト827:デフォルトの名無しさん 07/05/02 19:42:29 >>825 用途を書いてくれればもう少し具体的なアドバイスが出てくると思われ 828:デフォルトの名無しさん 07/05/02 20:19:07 >>825 滑らかじゃなくていいなら既に色々レスついてるからそれ参照。誤差ゼロ。 滑らかである必要があるなら、確かに精度(許容誤差)を与える必要はあるだろう。 滑らかって何とか言うならもっと勉強しなさい。 829:デフォルトの名無しさん 07/05/04 00:50:19 ペゾルドにかいてなかったっけ？ 830:デフォルトの名無しさん 07/05/15 23:20:02 ttp://www.emit.jp/prog/prog_div.html の高速除算なのですが、 どうしてこれで正しく計算できるのか分かる方いませんか？ あと、割られる数が負数のときでも上手くいくような つまり X / D = Q (Qは整数) のときに -X / D = -Q となるような高速除算の方法を知っている方はいますか？ 831:デフォルトの名無しさん 07/05/16 01:13:49 830のリンク先はなーんか誤差が出そうなやり方だなー。 定数除算なら、誤差項を１ビット誤差以下に抑えればいいから、こういうことは出来るけど。 32bit同士の乗算がオーバーフローせずに使える場合。 X/3 = [X/3 + 2n/(3*2^32)] (∵ 2n/(3*2^32) < 1bit ) = [ (2^32 + 2)/3 * (n/2^32) ] = 1431655766 * n / 2^32 = 1431655766 * n >> 32 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch