天文・気象板 初心者質問すれ。PART XXXVIIat SKY天文・気象板 初心者質問すれ。PART XXXVII - 暇つぶし2ch81:名無しSUN 10/04/24 10:32:03 H26/oNAo>>80 小数か整数かということではなく、有効数字の桁数が保たれるか どうかという視点で見るべきでしょう。32bit実数(浮動小数点数) は一般的に23bitの有効桁数を持っているので、16bit整数を変換し ても余裕で保たれます。 要するに、10進数にすればたかだか5桁の有効桁数しかもたない 16 bit整数データを、7桁の有効桁数がある32bit実数データに移し 替えるわけですから、なんの問題もありません。 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch