図 1で横軸は、相当対象とする量、縦軸は量に対応する頻度を表す ものとする。
まず、誤差(error)とは、真の値(これは実際には分からないが、分かっ
ているものとする)と測定値との違いである。前述したように、この誤差
の生じる原因によって系統誤差と偶然誤差に大別される。偶然誤差は統計
的性質を持っていて、一般的には正規分布(ガウス分布)を示すと考えら
れている。そこで、測定値について無限母集団を考え、各測定値はその母
集団の標本とみなすことにする。このとき、母集団の平均値(母平均)は、
必ずしも真の値とは一致せず、図 1に示すような「偏り」が一
般的には存在する。この偏りが統計誤差に相当する。偏りを推定して真の
値に近付ける作業を補正(correction)という。
測定値と母平均との差を偏差(deviation)という。有限な回数だけ測定を
繰り返しても、そうして得られる平均値(試料平均)が母平均と一致する
とは限らないので、測定値と試料平均との差は偏差と区別して残差
(residual)と呼ばれる。
次に、測定値あるいは測定器の「精度」であるが、この用語は「正確さ」
(accuracy)と「精密さ」(precision)を含めた総合的な良さを表すと定義
されている。「正確さ」とは、図 1で「偏り」の少なさに対応
している。つまり、図 1で「母平均」と「真の値」が接近して
いることを意味している。「精密さ」とは、ばらつきの少なさ、つまり図
1で測定値の母集団分布の幅が狭いことに対応する。
要するに、「精度」とは、統計誤差と偶然誤差を含めた誤差全体の小ささ を意味すると言い換えることができる。