くだすれFORTRAN（超初心者用）その4at TECHくだすれFORTRAN（超初心者用）その4 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト33:19 09/01/29 17:45:46 なるほど…ひとまず倍精度にしてみてどれくらい遅くなるか 見てみることにします。情報を小出しにしちゃって申し訳ないんですが、 一番問題なのは、上の処理をすると、領域ぎりぎりに粒子があったとき、 ５０までしかセルがないのに５１セル目を見ようとしちゃうことですね。 このエラー自体が不可避ならとりあえずそこの例外処理だけは入れといたほうがよさそうですね。 いろいろありがとうございます。上記件について何かいいアイデアあればぜひ。 34:デフォルトの名無しさん 09/01/29 23:00:06 >>33 ５０セルがMaxなら、いったん１００００倍なり拡大して整数に入れて、その整数の世界で 切り分ければいい。 整数がオーバーフローすると問題だが、５０セルがMaxなら大丈夫だろう。 35:デフォルトの名無しさん 09/01/30 00:07:25 分からないので質問させてください。 拡大係数行列Pに対して、部分ぴぼっと選択と行基本変形を繰り返して、 ガウスの消去法をするプログラムを書きました。 ここでPのある縦列が全て0のとき、たとえぴぼっと選択していても、 (＊)のところで0の割算が出てしまいます。 これを回避するうまい方法or常套手段はありますか？ 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch