【FPU】 浮動小数点 【SSE】at TECH
【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch234:デフォルトの名無しさん
08/02/23 01:11:46
>>229
>お前は桁落ちも知らないで浮動小数点に粘着しているのかwwwwww

ん?この桁落ち、間違ってるのか?
>>228か?何か気分害したか?直すぞ。
16桁BCDで説明し直すか?

>subnormalなnumberをいじるより、そのsubnormalなお前の知性を何とかしろ。

1e-13ってsubnormalなのか?あ、これ、倍精度な。



次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch