Superπベンチスレ 25回目のループat JISAKU
Superπベンチスレ 25回目のループ - 暇つぶし2ch354: 【東電 87.9 %】
11/03/29 20:53:43.04 GBK9RtoF
>>353
金田先生とかの論文によると畳込み演算でFFTを使う実装を
使っているみたいだから64bit倍精度もしくは80bit 拡張倍精度を
使っているよ。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch