测量数据处理：误差的影响及有效数字的确定

2023-06-22 理论教育版权反馈

【摘要】：测量数据的处理，就是从测量得到的原始数据中求出被测量的最佳估计值，并计算其精确程度。测量结果通常用数字或图形图像等形式表示。测量中要记录数据并进行运算，记录的数据应取几位，运算后应保留几位，这些要由误差范围来决定，也涉及有效数字的问题。有效数字位数越多，相对不确定度越小，测量结果的精确度越高。

测量数据的处理，就是从测量得到的原始数据中求出被测量的最佳估计值，并计算其精确程度。测量结果通常用数字或图形图像等形式表示。用数字方式表示的测量结果，可以是一个数据，也可以是一组数据；用图形图像方式表示的测量结果，可以是将测量中数据处理后绘制的图形，也可以是显示在屏幕上的图像，具有形象、直观的特点，如放大器的幅频特性曲线等。

测量中要记录数据并进行运算，记录的数据应取几位，运算后应保留几位，这些要由误差范围来决定，也涉及有效数字的问题。

1.有效数字的概念

任何一个测量量，既然其测量结果都包含有误差，该测量的数值就不应该无限制地写下去。例如，（1.3682···±0.02）cm应写成（1.37±0.02）cm，因为误差范围0.02 cm可知，该数值在百分位上已有误差，在它以后的数字便没有意义了。因此，测量结果只写到有误差的那一位数，并且在该位数以后按“四舍五入”的法则取舍。最后一位虽然有误差，但在一定程度上也能反映出被测量的客观大小，也是有效的。我们把能反映出被测量实际大小的全部数字，称为有效数字。或者说，把测量结果中可靠的几位数字加上有误差的一位数字，统称为测量结果的有效数字。有效数字的个数叫作有效数字的位数，如上述的1.37 cm称为三位有效数字。

有效数字的位数与十进制单位的变换无关，即与小数点的位置无关。因此，用于表示小数点位置的0不是有效数字。当0不是用于表示小数点位置时，0和其他数字具有同等地位，都是有效数字。显然，在有效数字的位数确定时，第一个不为零的数字左面的零不能算有效数字的位数，而第一个不为零的数字右面的零一定要算作有效数字的位数。如0.0135 m是三位有效数字，0.0135 m、1.35 cm及13.5 mm三者是等效的，只不过是分别采用了米、厘米和毫米作为长度的表示单位；1.030 m是四位有效数字。从有效数字的另一面也可以看出测量用具的最小刻度值，如0.0135 m是用最小刻度为毫米的尺子测量的，而1.030 m是用最小刻度为厘米的尺子测量的。因此，正确掌握有效数字的概念对测量来说是十分必要的。

由于数据的最后一位有效数字一般是估测的，所以称为欠准数字或不可靠数字，而其他有效数字均为准确数字或可靠数字。例如，某电流值为0.0321 mA，其中“3、2、1”三个数字为有效数字，两个“0”为非有效数字，“1”为欠准数字，“3、2”为准确数字。

有效数字的位数多少大致反映相对不确定度的大小。有效数字位数越多，相对不确定度越小，测量结果的精确度越高。

2.有效数字的处理

在实际测量中，经常要对测量结果的几个数据的有效数据进行必要的处理，然后进行运算。保留的有效数字位数过多或过少，都会影响最后的结果。保留位数的总原则是：运算过程中有效数字的位数应按其中准确度最差的数据的有效数字进行取舍。

1）运算数据尾数的取舍规则

为了使舍和入的概率相等，现在通用的规则是“四舍六入五凑偶数”。即大于5的数，向前入1；小于5的数，舍去；而等于5的数要看5后面是否有数字：若5后有数字，则舍5入1。若5后面没有数字或为0，那么5之前是奇数则舍5入1，是偶数则舍去5。

【例4-4】以下数字均保留小数点后一位有效数字：

10.34→10.3（舍去4）；

10.36→10.4（舍6入1）；

10.35→10.4（5后面无数字，5前面3为奇数，5入1）；

10.45→10.4（5后面无数字，5前面4为偶数，舍5）；

9.150→9.2（5后面为0，前面是奇数，舍5入1）；