= 統計解析フリーソフト R 【第2章】 =at MATH= 統計解析フリーソフト R 【第2章】 = - 暇つぶし2ch937:132人目の素数さん 08/08/18 20:42:56 浮動小数点演算による誤差。そのままでは、どうやっても回避不能。 > 123.05-123.02 [1] 0.03 > sprintf("%.15e", 123.05-123.02) [1] "3.000000000000114e-02" > どうしてもそこで TRUE が欲しい場合には、 > (1.0 - 123.02/123.05) - 0.03/123.05 < 1.0e-15 などとする。 次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch