C/C++の宿題を片付けます 116代目at TECH
C/C++の宿題を片付けます 116代目 - 暇つぶし2ch368:358
08/10/16 03:03:52
>>363
0 01111100 11000100100100000100101 (0x3E624825)
0 01111100 11000100100100000001111 (0x3E62480F)
s [- e -] [--- m ---]

(-1)^s × 2^(e-127) × (1 + m/(2^23)) (Sign, Exponent, Mantissaはそれぞれ、十進数)
(-1)^(0)*2^(124-127)*(1+6440997/(2^23)) = 0.220978335
(-1)^(0)*2^(124-127)*(1+6440975/(2^23)) = 0.220978007

となるから、floatの精度のため値としては同じになったみたい。
16進表記で変わった理由は、機械語とそれに伴うFPU命令の違いからじゃないかな(実際はどうか知らん)。
エロい人後は頼んだ。



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch