有効数字

Next: 誤差が明示されていない測定値の取り扱い Up: 有効数字と誤差 Previous: 誤差とは何か

有効数字

有効数字とは, 数値の表現において, 誤差を含まない数字または誤差の影響を受けない数字のことをいう。一般に, 実数

の近似値が10進少数で

$\displaystyle d_{m}d_{m-1}\cdots d_{0}.d_{-1}d_{-2}\cdots$

(4)

のように標記され(ただし $d_{m} \neq 0$ ),

$\begin{displaymath}\begin{split}d_{m}\cdots d_{l+1}(d_{l}-1) < x < d_{m}\cdots d_{l+1}(d_{l}+1) \end{split}\end{displaymath}$

(5)

が成立し, かつ

$\begin{displaymath}\begin{split}d_{m}\cdots d_{l}(d_{l-1}-1) < x < d_{m}\cdots d_{l}(d_{l-1}+1) \end{split}\end{displaymath}$

(6)

が正しくないか, あるいは確信できないとき, 数字 $d_{m}$ から $d_{l}$ までを有効数字という ⁱⁱⁱ⁾。また, このとき, 誤差を含まない数値の桁数

のことを有効数字の桁数あるいは有効桁数という。

ここで, 例として, 6桁の表示桁を持つディジタルマルチメータで電圧を測っている場合を考えよう。このような場合, 測定値として表示される数値はふつうは一定値にはならない。桁が小さい側の数値がふらふらと変動することが多いのである。

たとえば, 表示された数値の最小値が, 最大値がであったとしよう。電圧の推定値をとした場合,

$\displaystyle 1.5023 <$ 電圧 $\displaystyle < 1.5025$

であるということが測定値の変動の範囲から確信でき,

$\displaystyle 1.50239 <$ 電圧 $\displaystyle < 1.50241$

となっていることは確信できないから, 有効数字は

から小数点を除いたもので, 有効桁は5桁である。

一般に, 誤差が含まれる数値を(1)のように誤差つきで記録するときには, $x_{best}$ の部分に対応する数字を誤差の標記の最小桁に対応した桁まで書いてゆく。この際, 必要なら零を補う。たとえば, 先に述べた表示された数値の最小値が, 最大値がである例において誤差を $\pm 0.00003$ と見積った場合には, 測定値は

$\displaystyle 1.50240 \pm 0.00003$

(7)

のように記録される ^iv)。

一方, 表示された数値の変動がより激しく, その変動が激しい数値を無理して読んで, 最小値が, 最大値がであると結論付けられたという場合を考えよう。さらに, 電圧の推定値を, 上記の最大値と最小値の平均を取って四捨五入し, 1.33843 と記録してしまったとする。このときには, 有効数字はどうなるだろうか。