【PC】PCオーディオ総合33.0J【AU】at PAV
【PC】PCオーディオ総合33.0J【AU】
- 暇つぶし2ch330:名無しさん@お腹いっぱい。
09/12/13 15:36:48 dsA8Imo8
>328
32ビット浮動小数点数(IEEE754単精度浮動小数点数)で24ビットの精度を維持しながら演算するには、
計算の順序などにかなり気を使う必要があるからです。
最近のコンパイラは、書き方を工夫しないと最適化で計算の順序を勝手に入れ替えたりするのでさらに苦しい
次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch