next up previous
Next: 測定値の計算 Up: 実験データの整理 Previous: 実験データの整理

有効数字

測定器を用いて、ある量を測った時には、測定器の精度の限界とか、測定 者の読み取りの癖などによって、「真の値」というものは得られない。し たがって、測定値には真の値からのずれがあると考えられる。測定値と真 の値との差を「誤差」という。

測定がある不確かさを持っている以上、むやみに数字を幾桁も並べても意 味がなく、測定の精度に応じて、有限個の数字で示すべきである。このよ うに意味のある数字を「有効数字」という。たとえば、最小目盛り 1mmの物差しで、ある長さを測定して、3.45cmという測定値が得られ たとする。この数値3.45の最後の5は、4や6にするよりも真の値 に近いという意味で、最初の3、4とともに意味のある数であり、これら を有効数字という。

これに対し、0.0345mの0は単に位取りを示しているだけなので、有効 数字とは言わない。有効数字の桁数をはっきり示す時は、整数部分を1桁 の小数にし、それに10の累乗を掛けて表すのが普通である。たとえば、 $3.45\times10mm$、3.45cm $3.45\times10^{-2}m$のように表す。また、 mmの単位まで正確に測定し、1200mmの値を得た時には、有効数字は 1、2、0、0の4桁である。これをmの単位にして、1.2mとしたのでは、 せっかく4桁まで測定した意味がないので、1.200mとか、 $1.200\times10^{3}mm$のように表すことにする。

一般に、実験や観測で得られた測定値は有効数字で示すことにする。

アナログメータでは、原則として、最小目盛りの10分の1を目分量で読みと る。なお普通の実験では有効数字は3桁ぐらいのものが多い。



Kenichi Kuroda
2000-06-23