【はじき】大人のための算数・数学 2【みはじ】at MATH
【はじき】大人のための算数・数学 2【みはじ】 - 暇つぶし2ch419:132人目の素数さん
10/03/31 19:09:57
電卓には表示できる桁数に限界があるから実際とは誤差が出ます

例えば1÷3×3の値を考えます。分数を使って計算すれば1となります
ところが電卓で順番に計算すると
まず1÷3を計算するとおそらく0.333・・・33と表示されます
これは本来は1÷3の値は0.3333・・・と続くはずなのにどこかで区切りをつけて
1÷3より小さい値となった(誤差が生まれた)ことを意味します
それに3をかければ当然0.999・・・99となり1とはならないことは当たり前でしょう

ちなみに0.0144×0.35÷0.07÷0.05÷0.12の順に電卓で計算すればきっちり12が出るはずです




次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch