next up previous
Next: 誤差と最小二乗法 Up: 測定値の計算 Previous: 測定値の加減

測定値の乗除

有効数字が、2桁、3桁、4桁のものの乗除を行なう時には、精度の悪い桁 数より1桁だけ多く計算し、最後の桁を四捨五入し、精度の悪い、有効数 字が一番少ないものにそろえる。

たとえば、 $7.89\times1.2$では、精度が悪く、有効数字が一番少ないの は1.2であるので $7.89\times1.2=9.46\mathrel{\mathpalette\ap@align{\smash.}}9.5$となる。

また、同じように、 $7.89\div1.2=6.58\mathrel{\mathpalette\ap@align{\smash.}}6.6$となる。

計算中に無理数($\sqrt{2}$など)や円周率$\pi$などを用いる時は、有 効数字の最小の桁数より1桁多くとると良い。



Kenichi Kuroda
2000-06-23