Next: 相対誤差 Up: 有効数字と誤差 Previous: 誤差の有効数字

ディジタル表示の計測機器の有効数字

最近の計測機器には測定値がディジタル表示になっているもの が多い。 実験に関する経験の浅い学生は計測機器に表示された 桁と同じだけの有効数字があると考えがちであるが, これは誤りである。 計測機器の表示する値が何桁まで信用できるか は計測機器の物理的な特性から決まり, 計測機器の表示桁数が 何桁あるかには無関係である。だから, 測定値を信頼できるものに するためには, 計測機器のマニュアルを参照して 測定値が何桁まで信用できるかについて確認する必要がある。

もちろん, これとは別に, 測定している信号そのもののゆらぎに よって測定値がばらつくこともある。