09/01/29 01:01:07
>>19
単精度なら有効桁からいって７～８桁目にゴミが出てもおかしくない。
ゆえに気にするな。
フォーマットを与えずに＊で書かせれば、自動的に精度の範囲内で出力するので
ゴミは見えなくなるだろう。フォーマットは浮動小数点での表現を単に何桁でも
十進法に直して書くだけだから、単精度でもF30.20とか書けば小数点以下２０桁とか
書いてくれるが、有効数字的には６～７個しか意味ない。
09/01/29 01:01:07
>>19
単精度なら有効桁からいって７～８桁目にゴミが出てもおかしくない。
ゆえに気にするな。
フォーマットを与えずに＊で書かせれば、自動的に精度の範囲内で出力するので
ゴミは見えなくなるだろう。フォーマットは浮動小数点での表現を単に何桁でも
十進法に直して書くだけだから、単精度でもF30.20とか書けば小数点以下２０桁とか
書いてくれるが、有効数字的には６～７個しか意味ない。