【FPU】 浮動小数点 【SSE】at TECH
【FPU】 浮動小数点 【SSE】
- 暇つぶし2ch340:デフォルトの名無しさん
09/02/21 12:19:27
>>339
10^15程度でいいなら倍精度の53ビットあれば十分だろ。
更に言うなら64ビット整数と10^nの固定スケールで表してもいい。
なおさら機種依存のfp80なんて使う必要ねーよ。
むしろ【浮動】小数で扱う必要がない。
ジンバブエドルでも扱うのか?www
次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch