【FPU】 浮動小数点 【SSE】at TECH
【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch55:デフォルトの名無しさん
08/01/11 19:45:43
>>52
素朴な疑問なんですが、float では精度が足りない、というその基準は何なんでしょうか。

例えば、数値計算において何か不可欠な条件があって、それを実現するために
数値の精度を決定していくと float では足りない、みたいなことになったりしますか?


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch