プログラミングのお題スレ Part16at TECH

---

644:デフォルトの名無しさん
20/01/15 12:05:09.83 z1LU+PP1.net
将来、行列演算もFPU化されると、逆行列の桁落ちが問題になるだろうな････
それを見越して、入出力は64bitのまま内部演算だけ80bitにしたんぢゃね？

---

次ページ

続きを表示

1を表示

最新レス表示

レスジャンプ

類似スレ一覧

スレッドの検索

話題のニュース

おまかせリスト

オプション

しおりを挟む

スレッドに書込

スレッドの一覧

暇つぶし2ch