10/10/27 00:36:11 hJbc66p7
みなさんレスありがとう。
「だよなー、俺もそう思ってた」的なレスを想像してたのになんかカオスになってるｗ
>>472とか。
えーと、3 1/2の1/2は最上位桁の数字がフルスケールで1から2になるってことだよな。
"1"999→"2"000
6000カウントなら"5"999→"6"000なので3 5/6桁。
>>471
誤差 +/-3.5 digitなら、そのまま真の値は表示値の+/- 3.5 digitの範囲内にあると受け取るべきで、
勝手に最下位桁は意味がないとか言うべきではないと思うが。
（このメーカーの言う+/- 3.5digitは嘘で実は+/- 10.5 digitしか精度が出ていない、とかはまた別の問題）
表示がデジタルであることに起因する誤差は+/-0.5 digit。
それに加わる誤差の個々の製品の設計によって違ってくるものだろう。
ある製品では5% FS +/- 20 digitかも知れないし、
高精度に0.1% FS +/- 0.1 digitで設計しようと思えばできないこともないだろうし。