10/10/27 19:51:14 hJbc66p7
今更ですが>>463が何を言わんとしているか分かった。
2000カウントのDMMやパネルメータの一般的な精度、例えば+/-(0.5% rdg + 3 digit)
これはフルスケールで+/- 13digitに相当するから、
フルスケール近辺では最下位桁の数字は意味がない。
これが拡大解釈されて、
デジタルメータでは、最下位桁の読みは意味がない→
3桁なら2桁しか意味がない→
2桁なら1桁しか意味がない
となってしまった、と。
>>463の「精度としては実質1桁になってしまう」が直観的に違和感がありすぎたんで、
考えの背景まで頭が回らなかった。