【FPU】 浮動小数点 【SSE】at TECH
【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch57:デフォルトの名無しさん
08/01/11 20:49:46
>>56
一行目と二行目はおそらくほとんど同じことを意味していると思いますが
(まさか指数部を変化させたくない、なんてことはないですよね)

その8桁以上の8ってのは、何か意味付けできるんでしょうかねえ。

数値計算以外で、たとえばコンピュータのモニタの解像度を決めるときの条件として
「文字が普通に読める程度以上の解像度」とか、(無理矢理)意味付けできるわけですが、
数値計算の場合は、どうなのかなあと。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch