天文・気象板 初心者質問すれ。PART XXXVIIat SKY
天文・気象板 初心者質問すれ。PART XXXVII - 暇つぶし2ch81:名無しSUN
10/04/24 10:32:03 H26/oNAo
>>80
小数か整数かということではなく、有効数字の桁数が保たれるか
どうかという視点で見るべきでしょう。32bit実数(浮動小数点数)
は一般的に23bitの有効桁数を持っているので、16bit整数を変換し
ても余裕で保たれます。

要するに、10進数にすればたかだか5桁の有効桁数しかもたない
16 bit整数データを、7桁の有効桁数がある32bit実数データに移し
替えるわけですから、なんの問題もありません。



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch