【PC】PCオーディオ総合33.0J【AU】at PAV
【PC】PCオーディオ総合33.0J【AU】 - 暇つぶし2ch330:名無しさん@お腹いっぱい。
09/12/13 15:36:48 dsA8Imo8
>328
32ビット浮動小数点数(IEEE754単精度浮動小数点数)で24ビットの精度を維持しながら演算するには、
計算の順序などにかなり気を使う必要があるからです。
最近のコンパイラは、書き方を工夫しないと最適化で計算の順序を勝手に入れ替えたりするのでさらに苦しい



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch