【FPU】 浮動小数点 【SSE】at TECH
【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch191:デフォルトの名無しさん
08/02/21 00:54:42
> 10^-1に仮数部が何bit必要か計算してごらん…
> おのずと1.0+1.0*10^-37の正体にも気付くさ…

うーん、待ってくれ。

「n^-a を適当な基数で基数変換して循環小数になったら
 n^-(a+1) の基数変換もまた循環小数である」
…これ、正しいよな?

「整数+循環小数もまた循環小数である」これも確かだよな?



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch