首页 理论教育大学物理实验:有效数字的运算技巧

大学物理实验:有效数字的运算技巧

【摘要】:按照保留一位可疑数字的原则,计算结果应写成1.23,为三位有效数字。根据以上的截尾原则,将下列数截去尾数成四位有效数字时,应有2.34526 →2.3452.34550 →2.3462.34650 →2.3462.34750 →2.3486.数字的科学记数法在乘除和开方等运算中,对数字采用科学记数常常是比较方便的。

为获得实验结果,往往需要对测得的数据进行运算。在数据运算中,首先应保证测量的准确程度,在此前提下,应尽可能节省运算时间,以免浪费精力。运算时,应使结果具有足够的有效数字,不要少算,也不要多算。少算会带来附加误差,降低结果的精确程度;多算是没有必要的,算得位数很多,但绝不可能减少误差。下面将分别介绍有效数字的运算规则。

1.加减运算

几个数相加减时,最后结果的可疑数字与各数值中最先出现的可疑数字对齐。下面例题运算过程中数字下划线的是可疑数字。

【例3】 已知Y=A+B-C,式中A= (103.3±0.5)cm,B= (13.561±0.012)cm,C= (1.652±0.005)cm,试问计算结果应保留几位数字?

解:先观察以下具体的运算过程

一个数字与一个可疑数字相加或是相减,其结果必然是可疑数字。本例各数值中最先出现可疑数字的位置在小数点后第一位 (即103.3),按照运算结果保留一位可疑数字的原则,上例的简算方法为

结果表示为

2.乘除运算

几个数相乘除,计算结果的有效数字位数一般与各数值中有效数字位数最少的一个相同 (或最多再多保留一位)。

【例4】1.1111×1.11=?试问计算结果应保留几位数字?

解:用计算器计算可得1.1111×1.11=1.233321,但是,此结果究竟应取几位数字才合理,我们来看一下具体的运算过程便一目了然。见右侧运算式,因为一个数字与一个可疑数字相乘,其结果必然是可疑数字,所以,由运算过程可见,小数点后面第二位的 “3”及其以后的数字都是可疑数字。按照保留一位可疑数字的原则,计算结果应写成1.23,为三位有效数字。这与上面叙述的加减简算法则是一致的,即在此例中,五位有效数字与三位有效数字相乘,计算结果为三位有效数字。

除法是乘法的逆运算,这里不再详细论述。

在进行乘除运算时,误差传递公式为

可见,计算结果的相对误差比算式中最大的一个相对误差(ΔA/A或ΔB/B)还要大。相对误差越大,有效数字位数越少。对于一个间接测量,如果它是由几个直接测量值相乘而计算得到的,那么,在进行测量时,应考虑各个直接测量值的有效数字位数基本相仿,或者说,它们的相对误差要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。

3.乘方开方运算

乘方开方运算的有效数字位数与该数有效数字位数相同。(www.chuimin.cn)

4.对数、三角函数

它们的计算结果必须按照误差传递公式来决定有效数字位数,而不可以用前面所述的简算方法。

【例5】 已知A=3000±2,计算y=lnA和

解:y=lnA=ln3000=8.0063676,此值由计算器算得。

绝对误差

结果为

5.数字的截尾运算

数据处理时,经常要截去多余的尾数,一般截尾时以 “尾数大于5进,小于5舍,等于5时取偶”来定。

根据以上的截尾原则,将下列数截去尾数成四位有效数字时,应有

2.34526 →2.345

2.34550 →2.346

2.34650 →2.346

2.34750 →2.348

6.数字的科学记数法

在乘除和开方等运算中,对数字采用科学记数常常是比较方便的。所谓数字的科学记数法即是将数字分成两部分,第一部分表示有效数字,书写时只在小数点前保留一位数,如3.46、5.894等;第二部分表示单位,以10的几次幂来表示,如10-8、104 等。从下面的例子不难看出这种表示法的优点,如