C#, C♯, C＃相談室 Part91

C#, C♯, C＃相談室 Part91at TECH

C#, C♯, C＃相談室 Part91 - 暇つぶし2ch221:デフォルトの名無しさん
16/08/05 16:38:02.60 P4D3CPGd.net
>>210
一回の加減算でどの程度の誤差が発生しうるかは分かる（恐らく演算結果の
最上位桁の1の1e-15より小さい）のだから、どの程度の回数の演算まで「安全」かは
扱う数値の範囲と有効桁数から事前に計算できるでしょ。

次ページ

続きを表示

1を表示