【FPU】 浮動小数点 【SSE】at TECH【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch286:デフォルトの名無しさん 08/02/27 13:06:33 >>278 ビット表現に×2^nと正規化が出てきたら文字通り 浮動小数点だと言ってみるテスト (まあ現在普通に浮動小数点といえば 誤差含む数を扱うためのものだが) >>280 実際のところ実数が不可算無限個あるって性質は 無視していいよね。 数学上は可算無限個の中に含まれない実数を 作り出すこと自体無理だし、 実用上は誤差を考えれば有限桁ですむし。 >>284 表そうも何もどういう循環小数か分からない時点で 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch