07/03/19 16:42:06
すごく初歩的なことなのですが、教えてください。
有効数字のことなんですが、
積・商の計算では、有効な桁数の最も低いものに合わせなさいと教わりました。
例えば
2.5×2.5 = 6.25 → 6.3（有効数字二桁のため）ですよね。
けれども、有効数字が2桁だけど、実際の試料の量の小数点第2位の値が下のように
なっている場合
2.51×2.59 = 6.5009 → 6.5 が真の値に近いことになりますよね。
私は、有効数字の桁数のところまでは、真の値だと思っていました。
上の例で考えれば、有効数字で算出した積は、真の値より必ず小さく
なってしまうことになりますが、これではおかしいですよね？
たぶん私の考え方がおかしいと思いますので、どなたかアドバイスお願いします。