07/03/19 22:32:56
>>49
真の値2.59が測定値2.5になっちゃうような装置だと
誤差に関する理論から考えて負の方向にも同じくらい
誤差があると考えられるわけで、そうすると
真の値が2.41でも測定値が2.5になるだろう。
この場合、二桁目が正確だと言えるだけの信憑性は
実際には測定値の時点でもうすでにないわけだ。
こういう場合、有効数字の考え方はあまり適していない。
2.5±0.1と誤差の範囲を明確に指定しないと良くない。
(当然積も6.3±0.5というような形に表さざるを得ない)
逆に言うと有効数字の考え方が使えるのは、測定値と
真の値の誤差がある一定の条件を満たしている場合に
限られる。