【FPU】 浮動小数点 【SSE】at TECH【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch191:デフォルトの名無しさん 08/02/21 00:54:42 > 10^-1に仮数部が何bit必要か計算してごらん… > おのずと1.0+1.0*10^-37の正体にも気付くさ… うーん、待ってくれ。 「n^-a を適当な基数で基数変換して循環小数になったら n^-(a+1) の基数変換もまた循環小数である」 …これ、正しいよな? 「整数+循環小数もまた循環小数である」これも確かだよな? 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch