【FPU】 浮動小数点 【SSE】at TECH【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch198:デフォルトの名無しさん 08/02/21 14:31:53 >>196 その加算で精度7ケタに丸められることを 194は10^-7程度の誤差と言っているのでは？ 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch