05/12/07 22:50:20
URLﾘﾝｸ(forum.sgi.co.jp)
62: 【末吉】 【1101円】
06/01/01 19:39:26
あけおめ
63:名無しさん＠５周年
06/02/28 15:58:45
double left, right;
ここの処理で left と right は近接した値になる。
double diff = ( right - left ) * 0.5;
double midle = left + diff;
right-left が小さいと diff も小さくなって
middle == left になることは予想していたのですが
middle == right になることもあるんですね…
なんでだろう。
64:名無しさん＠５周年
06/03/09 07:50:24
2進3bit精度
left =1.01
right=1.10
diff=0.001
left'=1.011 = 1.10 (round to nearest もしくは round to +inf)
65:名無しさん＠５周年
06/03/09 08:07:30
ちょうど真ん中の時 +inf 方向に丸められるか -inf 方向に丸められるかは
ランタイムもしくはプロセッサ依存ですか？
Numerical Recipes in C の二分法による解の探索アルゴリズムでは
中点を left と比較して同じなら停止するように書かれていて
停止しないことがあって、なんでこんな停止条件になっているのか
不思議に思ってました。
66:名無しさん＠５周年
06/03/09 17:56:07
Numerical Recipesは間違い多いらしいから
信用しすぎない方がいい
IEEE754規定の丸めモードは
round to zero
round to nearest
round to +inf
round to -inf
がある。
標準がround to nearestで
たいていランタイムに変更できる。
ia32系だと
fpu_control.h
のマクロを使って変更する。
でも、コンパイラによってはうまく反映しない場合も。
67:名無しさん＠５周年
06/06/24 10:43:03
数値解析の大切さを認識して貰う為には、ぜひとも倍精度の使用を法律で
禁止して貰おう。もちろんソフトウェアで多倍長演算をすることも禁じるべきだ。
そうして、32ビット浮動小数点数はおろか、16ビット浮動小数点数とか、
８ビット浮動小数点数などを採用し、あるいは固定小数点数を復活して
それで計算をすることを強いれば、誤差の分析や解析の重要性が高まり、
数値解析の必要性が広く理解され認識されるのではないか？
高精度数は撲滅して、可能な限りの低精度計算で済ませることを競う
べきでは？
68:名無しさん＠５周年
06/06/26 20:04:40
>>67
やーい
バーカバーカ
69:名無しさん＠５周年
07/02/24 07:43:25
保守
70:名無しさん＠５周年
07/05/08 14:04:53
誤差の話はタブーです。絨毯の裏側に隠すべきです。そのことを口にしては
なりません。裏山の桜の木の下に何が埋まっているかということを尋ねたもの
はその答えを知ることになるでしょう。
71:原巨人人気＆プロ野球人気両方とも人気上昇中
07/05/10 11:37:30
誤差の話は何でタブーなんですか？
なんかやましい事実があるんでしょうか？
72:かまち
07/05/23 05:36:41
誤差の話に触れてはいかん
俺みたいになるよｗｗ
73:名無しさん＠５周年
07/05/23 08:54:05
10進浮動小数点演算は便利だな 「IBM POWER6」
URLﾘﾝｸ(pc.watch.impress.co.jp)
74:名無しさん＠５周年
07/05/24 00:32:58
>>73
これはBCDのことを言ってるのか？
IA-32でもBCD演算命令はあるはずだが。
75:名無しさん＠５周年
07/05/26 17:43:24
整数演算じゃなくて、IEEEの浮動小数点規格合致の
ハードウェアレベルでの１０進演算命令だよ。
76:名無しさん＠５周年
07/05/26 23:03:01
倍精度固定小数点演算ってどう？
国家レベルの特許法犯罪？
77:名無しさん＠５周年
07/06/02 10:03:48
★★★★★★極秘情報★★★★★★★
(1)MULU/MULS/MSMU/MSMS/MRDU/MRDS
(2)MUL1/MRD2/MSM1A…
78:名無しさん＠５周年
07/06/15 23:26:02
あるページにボタンがあります。
１クリックあたり、１万円が、あなたの通帳に振り込まれます。
そして、１クリックあたり、あなたではない誰かが一人、
あなたのクリックの作用によって、世界の何処かで死にます。
クリックしますか？
79:名無しさん＠５周年
07/09/30 12:40:53
┌──┐
│＼∥／│ ／￣￣￣￣￣￣￣￣￣￣￣￣￣
│● ● │＜>>78そんなもんあるわけないだろ！
│ ⊂⊃ │ ＼＿＿＿＿＿＿＿＿＿＿＿＿＿
└──┘
80:名無しさん＠５周年
08/07/02 19:00:26
IEEE754
81:名無しさん＠５周年
08/07/04 04:32:31
URLﾘﾝｸ(imepita.jp)