next up previous
Next: 測定値の乗除 Up: 測定値の計算 Previous: 測定値の計算

測定値の加減

120D
同じ単位にそろえた幾つかの測定値の加法、減法では、 計算結果を四捨五入によって精度が一番悪いほうの桁数(下の例では 1.2の小数1桁目)に揃えれば十分である。

例えば、

$34.56+1.2-7.89 = 27.87 \mathrel{\mathpalette\ap@align{\smash.}}27.9$となる。

220D
もう一つのやりかたとして、上記の1.2は小数1桁目 に誤差を含んでいるので、計算結果の小数2桁目の7は意味のない数字に なる。この場合は、同じ位取りのところに誤差が含まれるように、 あらかじめ最後の行をそろえてから計算をする。すなわち、

$34.56+1.2-7.89 \mathrel{\mathpalette\ap@align{\smash.}}34.6+1.2-7.9 \mathrel{\mathpalette\ap@align{\smash.}}27.9$ となり、計算 結果も同じ位取りのところまでが有効数字になる。



Kenichi Kuroda
2000-06-23