Next:
測定値の乗除
Up:
測定値の計算
Previous:
測定値の計算
測定値の加減
120D
同じ単位にそろえた幾つかの測定値の加法、減法では、 計算結果を四捨五入によって精度が一番悪いほうの桁数(下の例では 1.2の小数1桁目)に揃えれば十分である。
例えば、
となる。
220D
もう一つのやりかたとして、上記の1.2は小数1桁目 に誤差を含んでいるので、計算結果の小数2桁目の7は意味のない数字に なる。この場合は、同じ位取りのところに誤差が含まれるように、
あらかじめ最後の行をそろえてから計算をする
。すなわち、
となり、計算 結果も同じ位取りのところまでが有効数字になる。
Kenichi Kuroda
2000-06-23