小中学校範囲の算数・数学の問題のスレ Part 52at MATH小中学校範囲の算数・数学の問題のスレ Part 52 - 暇つぶし2ch223:132人目の素数さん 16/01/14 00:05:53.82 hTCmXlOn.net単なる約束ごとだよ。天文学の分野で… 0.346*(1/10^1) の表記で統一していれば、これで有効数字3桁で問題ないだろ? コンピュータの浮動小数点のデータ構造で、IEEE1394だと、一旦形式を統一して、 さらに最上位ビットが2進法で必ず1になることを利用して、データを保存する時に その1を省略してデータ1ビット分を稼ぐんだよな。 これも単なる約束ごと。 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch