Rubyについて Part 37at TECH
Rubyについて Part 37 - 暇つぶし2ch138:デフォルトの名無しさん
09/08/30 21:56:42
えっと、ここでもいいかな。
正式には、窓口あるんでしょうがね。

BigDecimal/math.rbの def exp(x, prec)
xに負数が来ると、うまくないです。

n += x.to_i if x < 0
の1行を適当なところに挿入すると良いです。

xが負のとき、ループの脱出の条件のところは、
n2 = n * 0.9
として、n2に置き換えても精度が保てます。
xが-1000より小さいと、実行が分単位になるので、確認不足かもね。
なので、0.9の部分は話半分ってことで。

1.9.1の243でも直ってなかった。




次ページ
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch