くだすれFORTRAN(超初心者用)その4at TECHくだすれFORTRAN(超初心者用)その4 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このスレッドのURL■項目テキスト23:デフォルトの名無しさん 09/01/29 10:17:31 小数点捨てにしよ四捨五入にせよ、数値誤差や丸め誤差やら打ち切り誤差で致命的に 結果が変わるようなモデルが悪い。そんなの窓から投げ捨てちゃえw 24:23 09/01/29 10:25:56 とはいっても粒子数がいっぱいあれば、離散化した箱の中の数が一個二個違うくらいではそんなに 変わらないだろうな。同じ問題は倍精度にしてもたぶん起こるよ。いまのCPUは単精度と倍精度で ほとんど計算コストが変わらないので気が向いたら倍精度でやってみよう。 25:デフォルトの名無しさん 09/01/29 11:05:29 >いまのCPUは単精度と倍精度でほとんど計算コストが変わらない ほんとに?! 普通に考えれば倍精度になればデータが倍になるから、スピードは半分になるような その辺考えてあえて倍精度じゃなく単精度を使ってるコードもあるじゃん 26:デフォルトの名無しさん 09/01/29 11:33:48 >>25 いまの計算機ってメモリ・CPU間のデータ転送をクレバーに さばくからあまり目立っては違わない。 ほとんど変わらないとは思わないけどコードにもよるけど 単精度でしても2割速くなれば御の字じゃないかな。 メモリ節約して粒子数なり格子数を増やす方にメリットがあると 当然単精度でするだろうけど。仮に2倍速になるにしても、 高々2倍のスピードを求めてあえて単精度で計算する、 というのは何か間違っていると思うよ。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch