【FPU】 浮動小数点 【SSE】at TECH【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch247:デフォルトの名無しさん 08/02/24 11:11:07 >>240 n 進数で 0.a...b a...b a...b ... という循環小数があった場合、 0.a...b a...b a...b ... = a...b * 0.0...1 0...1 0...1 ... となる。 0.0...1 0...1 0...1 ... を (n-1)...(n-1) 倍すると 1 になるので、 0.a...b a...b a...b ... = a...b / (n-1)...(n-1) だな。 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch