Next: 誤差と最小二乗法
Up: 測定値の計算
Previous: 測定値の加減
有効数字が、2桁、3桁、4桁のものの乗除を行なう時には、精度の悪い桁
数より1桁だけ多く計算し、最後の桁を四捨五入し、精度の悪い、有効数
字が一番少ないものにそろえる。
たとえば、
では、精度が悪く、有効数字が一番少ないの
は1.2であるので
となる。
また、同じように、
となる。
計算中に無理数(
など)や円周率
などを用いる時は、有
効数字の最小の桁数より1桁多くとると良い。
Kenichi Kuroda
2000-06-23