小中学校範囲の算数・数学の問題のスレ Part 52at MATH
小中学校範囲の算数・数学の問題のスレ Part 52 - 暇つぶし2ch223:132人目の素数さん
16/01/14 00:05:53.82 hTCmXlOn.net
単なる約束ごとだよ。天文学の分野で…
0.346*(1/10^1) の表記で統一していれば、これで有効数字3桁で問題ないだろ?
コンピュータの浮動小数点のデータ構造で、IEEE1394だと、一旦形式を統一して、
さらに最上位ビットが2進法で必ず1になることを利用して、データを保存する時に
その1を省略してデータ1ビット分を稼ぐんだよな。
これも単なる約束ごと。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch