Macで学術系ソフト研究室のMac・4at MACMacで学術系ソフト研究室のMac・4 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このスレッドのURL■項目テキスト950:kur 08/12/05 16:22:51 L0WzV7PA0 >>949 すいませんw OS X 10.3.9です. 電卓は3.1 (v3.2.1)です このmacだけなんでしょうか? 951:名称未設定 08/12/05 17:02:15 8tdNs20r0 安心しろ、手元の10.3.9で確かめたら確かに1.8446e+146になったぞ。 多倍長整数と浮動小数点に関してはダメっぽいな > 3.1(v3.2.1) 952:名称未設定 08/12/05 18:54:47 /9cG2wob0 そんなんもん まてぃまてぃか で やらんかい!! 953:名称未設定 08/12/05 20:27:06 +Ghpai3r0 >>952 そういう問題じゃないだろw 科学計算でも y^x では10.0^128 でオーバーフローって出る。 でも、10.0^127 の結果に *10.0 をしたら 1e+128 ってでるなぁ。謎だ。 しかしこの手の話は、開発系のスレの方が良いかと思うがいかがなものかな? 954:kur 08/12/05 22:10:08 z+v5G+vh0 105!を越えた辺りからはまた正しいんですよ オーバーフローではなさげ?? とりあえず結果が信用出来ないんで 他ので計算することにします. ありがとうございました!! 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch