09/04/11 03:47:11 jkYml83a
有効数字の計算方法について質問です
例えば
((1.475*1.326)/5.2)*6.27
という式があって、有効数字としてそれぞれの数を扱い、計算結果を求めたい場合、
結果は5.2の２桁にあわせますよね。
ただし、それまでの計算で一桁余分に取っておくというルールがありますよね。
ということは、
分数の分子である1.475*1.326をまず計算しようとするときには、
1.475*1.326＝1.955850になりますが、これを1.96として
((1.475*1.326)/5.2)*6.27=(1.96/5.2)*6.27=・・・
として計算していいんですかね？
どなたかえろい人教えてください。お願いします。