【FPU】 浮動小数点 【SSE】at TECH【FPU】 浮動小数点 【SSE】 - 暇つぶし2ch57:デフォルトの名無しさん 08/01/11 20:49:46 >>56 一行目と二行目はおそらくほとんど同じことを意味していると思いますが (まさか指数部を変化させたくない、なんてことはないですよね) その8桁以上の8ってのは、何か意味付けできるんでしょうかねえ。 数値計算以外で、たとえばコンピュータのモニタの解像度を決めるときの条件として 「文字が普通に読める程度以上の解像度」とか、(無理矢理)意味付けできるわけですが、 数値計算の場合は、どうなのかなあと。 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch