くだすれFORTRAN（超初心者用）その4at TECHくだすれFORTRAN（超初心者用）その4 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト27:デフォルトの名無しさん 09/01/29 12:04:26 ディスクアクセスが非常に多い場合はそこでのロスを減らすために 単精度ですることは良くある たくさんの測定データを読み込んで処理するときとかは特に 測定値だと元から倍精度の精度はないし 28:デフォルトの名無しさん 09/01/29 13:25:25 >>22 はじめに一言。 四捨五入をしたいだけなら、NINTという関数があるのでそれを使うとよい。 ただNINTを使っても、十進表記にこだわると、今回の問題は解決しないかもしれない。 その理由を簡単に言うと以下のようになる。 Fortranでいうところの実数は、数学的な意味での実数ではない。 いわゆる浮動小数であって、有限個の有理数点で実数を代表させている。 ある種の区間をあらわす代表の数である。 その区間は、二進数表記で区切りのいい点で切っているので、十進数表記では 切りのいい点になっていない。 十進数で四捨五入しようとしても、そもそも閾値に幅があるのだから、その幅分の誤差が 出てもしょうがない。単精度ではそれが、有効数字７～８桁目にくる。 数直線をかみそりで切り分けるイメージではなく、木材をのこぎりで切るイメージで 考えればおｋ。切るとき、おがくずが出て、切った材木にはのこぎりの歯の幅だけの誤差がでる。 それは避けられない。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch