09/01/29 13:25:25
>>22
はじめに一言。
四捨五入をしたいだけなら、NINTという関数があるのでそれを使うとよい。
ただNINTを使っても、十進表記にこだわると、今回の問題は解決しないかもしれない。
その理由を簡単に言うと以下のようになる。
Fortranでいうところの実数は、数学的な意味での実数ではない。
いわゆる浮動小数であって、有限個の有理数点で実数を代表させている。
ある種の区間をあらわす代表の数である。
その区間は、二進数表記で区切りのいい点で切っているので、十進数表記では
切りのいい点になっていない。
十進数で四捨五入しようとしても、そもそも閾値に幅があるのだから、その幅分の誤差が
出てもしょうがない。単精度ではそれが、有効数字７～８桁目にくる。
数直線をかみそりで切り分けるイメージではなく、木材をのこぎりで切るイメージで
考えればおｋ。切るとき、おがくずが出て、切った材木にはのこぎりの歯の幅だけの誤差がでる。
それは避けられない。