MAXIMAat SIM
MAXIMA - 暇つぶし2ch595:名無しさん＠５周年
06/02/20 15:47:58
wxMaximaで小数を扱うとなぜか誤差が出るんだけど。
例えば0.1+0.1などすると0.20000000000000001と表示される。何なんだろう。
XMaximaだとちゃんと0.2で表示される。>>572も同じ問題が出てるみたいだけど、
なんか解決法ないだろうか？

次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch