检验检测机构试验数据处理方法
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

第一节 检测数据有效位数的合理性

数据的准确性一般也包括合理性的内容,但准确的数据不一定全合理,准确性是对误差而言,合理性是对符合实际要求和规定而言。

数据的合理性包括两方面的内容:一是数据有效位数的取舍要符合数字修约标准GB/T 8170的有关规定,运算过程要符合有效位数运算规则,正确取位;二是检测过程所得数据的有效位数,一定要与试验的仪器、定量玻璃器具的精度(或量具的精度)所能达到的有效位数一致,而且测出的数据能够满足实际需要。

一、有效数字

0,1,2,3,4,5,6,7,8,9,这10个数码称为数字。

有效数字就是指在测量中所能得到的有实际意义的数字。即是指在一个近似数中,除最后一位是不确定的外,其他各位都是确定的。有效数字用于表示连续物理量的测定结果,指测量中实际能得到的数字,即表示数字的有效意义。有效数字一般是表示检测仪器所能测量到的数字。它不仅表明了数量的大小,也反映了检测方法和检测仪器的准确程度。在检验检测过程中,通过直接测量获得的检测数据,需要记录其测量值;而通过间接测定获得的检测数据,需要对有关测量值进行计算,最后得到检验检测结果。对于检验检测过程中获得的数据,检测人员会遇到要用几位数字来表示这些测量值或检测结果的问题。对于检验检测数据记录的有效位数,必须依据标准的检验检测方法的规定,对使用的计量器具和检测仪器设备能够提供的有效位数等信息予以确定。

在记录数据和计算结果时,所保留的有效数字中,只有最后一位是可疑的数字。如50mL滴定管的最小刻度是0.1mL,滴定后的体积,A可能读23.43mL,B可能读23.44mL,C可能读23.42mL。这四位数字中,前三位(有刻度)是准确的,第四位(没有刻度)是不准确的,所以第四位称为可疑数字。但它又不是主观臆造的,所以记录时应保留。在测量准确度的范围内,有效数字的位数越多,测量也越准确,但超过测量准确度的范围,再多的位数也是毫无意义的。

有效数字位数与量的使用单位无关。如称得某物的质量是12g,两位有效数字。若以毫克(mg)为单位时,应记为1.2×104mg,而不应记为12000mg。若以千克(kg)为单位,可记为0.012kg或1.2×10-2kg。

二、有效位数与修约间隔

1.有效位数

有效位数即是指几位有效数字。

对没有小数位且以若干零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。

例1-1 35000若有两个无效零,非零数字最左一位“3”向右数共5位数减去2个无效零数得3,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。注意有效位数应在10n之前全部写出。

例1-2 32,0.32,0.032,0.0032都为十进位数,非零数字最左一位“3”向右数都是两位数,则它们均为两位有效位数。0.0320从非零数字最左一位向右数是3位数,所以它为三位有效位数。

例1-3 13.580为十进位数,从最左非零数字“1”向右数为5位数,所以它是五位有效位数。同样13.5800为六位有效位数。

有效位数也可以这样来理解:如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位,且该位到其左边的非零数字一共有n位,n就是该数据的有效数字的位数。

例1-4 某数据极限误差为0.005。数据0.234的末位数应是3,其有效数字位数(或有效位数)为2位。

例1-5 某数据极限误差为0.5,数据8700.33的末位数应是0,其有效数字位数(或有效位数)为4位。

2.“0”的不同位置,对有效数字位数的影响

(1) “0”在数字前,仅起定位作用,而它本身不是有效数字。如0.0382前面两个“0”,均不是有效数字。因为这些“0”只与所取的单位有关,而与测量的精确度无关。若将单位缩小100倍,则变为3.82,有效位数只有三位,前边的“0”就没有了。类似123,12.3,0.123,0.0123,0.00123等数的有效位数都是三位。

(2) “0”在数字后面(带有小数位的),则为有效数字。如:0.1000中前边一个“0”不是有效数字, “1”后边三个“0”均为有效数字,故0.1000为四位有效位数;0.0040为两位有效位数。

(3)数字中间的“0”为有效数字。如1.0008为五位有效位数。

(4)以“0”结尾的正整数,有效位数不确定。如3600这样的数字,有效位数不好定,可能是两位、三位甚至四位有效位数,应根据实际情况确定有效数字位数,写成3.6×103为两位有效位数;写成3.60×103为三位有效位数;写成3.600×103为四位有效位数。因为很大或很小的数字用“0”表示位数不方便,最好用10的乘方表示。即有效数字全部写出,后面用10的乘方表示。有效数字用小数表示,习惯上在小数点前留一位整数,如0.00005300,可写为5.300×10-5,表示四位有效位数。如15600表示为1.56×104,即三位有效位数,若表示为1.560×104,即表示为四位有效位数。因此应采用科学的记数法,避免用无效零。

根据上面的规则,我们可以判断下面各数有效数字的位数:

3.修约间隔

修约间隔系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值应为数值的整数倍。即拟将数据保留到那一位数。

例如,指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。又如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到百数位。还有两种修约间隔,在日常检验中应用较少,但有时也会遇到,即0.5单位修约和0.2单位修约。

0.5单位修约(半个单位修约)指修约间隔为指定数位的0.5单位,即修约到数位的0.5单位。

例如,将60.28修约到个数位的0.5单位,得60.5。又如煤炭检验中的自由膨胀序数的测定的单位为0.5,对不足0.5的结果,小数点后的数字以“2舍3入”的办法(即2舍为0,3入为5)修约到0.5报出。

0.2单位修约指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。

例如,将832修约到“百”数位的0.2单位,得840。

4.修约位数的表达方式

(1)指定数位 指定修约间隔为10-nn为正整数,下同)或指明将数值修约到n位小数。

指定修约间隔为1,或指明将数值修约到个数位。

指定修约间隔为10n,或指明将数值修约到10n数位,或指明将数值修约到“十”“百”“千”等数位。

(2)指定数值修约成n位有效位数 修约间隔这一概念,是从法国标准NF×02-052-1979《数字修约规则》中借鉴来的,标准采用的最基本的修约间隔是10n,考虑到与指定修约数位正好相等,而以前我国标准中的提法都是指定修约数位,而且现在仍然普遍采用。为使标准具有连续性,因此在GB/T 8170《数值修约规则与极限数值的表示和判定》中既给出了修约间隔,又给出了与之等价的确定修约到某数位的提法,两者通用,互不矛盾。

三、修约规则

1.数值修约进舍规则

(1)拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。例如:

将13.2476修约到一位小数,得13.2;

将13.2476修约成两位有效位数,得13。

(2)拟舍弃数字的最左一位数字大于等于5,而且其后跟有并非全部为“0”的数字时则进一,即保留的末位数字加1。例如:

将1167修约到“百”数位,得12×102(特定时可写为1200);

将1167修约成三位有效位数,得117×10(特定时可写为1170);

将10.502修约到个数位,得11。

(3)拟舍弃数字的最左一位数字为5,而其右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1-6 修约间隔为0.1(或10-1)。

例1-7 修约间隔为1000(或103)。

例1-8 将下列数字修约成两位有效位数。

(4)负数修约时,先将它的绝对值按上述三条规定进行修约,然后在修约值前加上负号。

例1-9 将下列数字修约至十数位。

例1-10 将下列数字修约成两位有效位数。

(5)0.5单位修约:先将拟修约数值乘以2,按指定数位依进舍规则修约,所得数值再除以2。

例1-11 将下列数字修约到个数位的0.5单位(或修约间隔为0.5)。见表1-1。

表1-1 0.5单位修约

(6)0.2单位修约:先将拟修约数值乘以5,按指定数位依进舍规则修约,所得数值再除以5。

例1-12 将下列数字修约到百数位的0.2单位(或修约间隔为20)。见表1-2。

表1-2 0.2单位修约

以上的数值修约(除去后两条外)规则,称为“四舍六入五单双”的原则。这种方法可以用五句话简单来概括:四舍六入五单双,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一。

2.数值修约时应注意的事项

实行数值修约,应在明确修约间隔(确定修约的位数)后一次完成,而不能连续修约,否则会导致不正确的结果。但实际工作中常有这种情况,有的部门先将原始数据按修约要求多一位或几位报出,而后另一部门按此报出值再按规定位数修约和判定,这样就有连续修约的错误。国家标准《数值修约规则与极限数值的表示和判定》(GB/T 8170)对此做了以下具体规定:

(1)拟修约数字应在明确修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。

例1-13 修约15.4546,修约间隔为1。

正确的做法:15.4546→15;

不正确的做法:15.4546→15.455→15.46→15.5→16。

例1-14 1.23456,修约到两位小数。

应当一步到位→1.23;

不正确的修约:1.23456→1.2346→1.235→1.24。

计算机是二进制式四舍五入,所以应多取一位。

(2)在实际工作中,有时测试与计算部门先将获得的数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下列步骤进行。

①报出数值最右的非零数字为5时,应在数字后面加“ (+)”或“ (-)”,或不加符号,以分别表明已进行过舍进或未舍未进。

例1-15 15.50(+)表示实际值大于15.50,经修约舍弃成为15.50;15.50(-)表示实际值小于15.50,经修约进一成为15.50。

②如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按进舍规则处理。

例1-16 将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。见表1-3。

表1-3 数字修约到个数位后的判定

3.修约规则的理论依据

GB/T 8170《数值修约规则与极限数值的表示和判定》中的“四舍六入五单双”修约规则充分地采用了国外先进标准的内容。这也是我国改革开放与国际接轨的需要。但重要的还是它的科学性。因为用“四舍五入”法对数字进行修约,经统计,从很多修约后的数值中得到的均值偏大,而用现在的修约规则,进舍的状况具有平衡性,进舍误差也具有平衡性,若干数值经这样修约后,修约值之和变大的可能性与变小的可能性是相当的。

现以“拟舍弃数字的最左一位数字”为例说明:拟舍弃的数字0,1,2,3,4,5,6,7,8,9这10个数字在现实中出现的概率是相同的,都是10%。若采用“四舍五入”法,这10个数字中,0修约后的数值量不变(既不增大,也不变小);1,2,3,4,这4个数字在修约后值减小;5,6,7,8,9这5个数字在修约后值增大。这样在这10个拟舍弃的数字中修约后1个值不变,4个值减小,5个值增大。也就是说,对于总体数据而言,经“四舍五入”法修约后,有10%的数值不增不减,有40%的数值减小,有50%的数值增大。所以总误差不为零,从总体的数据来看,进大于舍,所以修约后的值偏大。特别是对于大量数据统计工作而言,总体数值增大。

若采用“四舍六入五单双”法,在这10个拟修约的数字中,其中是0的数,修约后值不变;拟修约数字为1,2,3,4这4个数字时舍去;拟修约数字为6,7,8,9这4个数字时进位;而在舍弃数字的最右一位是5的情况下,所保留的末位数字为奇数1,3,5,7,9这5个时进位,所保留的末位数字为偶数0,2,4,6,8这5个时舍去。这样经“四舍六入五单双”法修约后,有10%的数值不增不减,有45%的数值减小,有45%的数值增大,所以总误差为零。这就是修约为什么要采用“四舍六入五单双”法的统计理论依据。

还可以从舍入的具体误差来解释,即在对数字修约时,会带来舍入误差。设某一数值要保留n位有效位数,由第n+1位引入的误差如表1-4所示。

表1-4 n+1位引入的误差

而舍入误差是人为引入的误差,人们希望越小越好,最好是零。在过去采用“四舍五入”法修约时,假定要保留n位有效位数,当第n+1位是5以外的其他数字时,其舍入误差在极多次修改时相互抵消,但在第n+1位是5时,却无法抵消。因此存在一正的误差,使总体数值增大。而“四舍六入五单双”法规定;当第n位上的数是偶数时,第n+1位上的5舍去,此时舍入误差为-5;当第n位为奇数时,第n+1位上的5进入,此时的舍入误差为+5,由于第n位上偶、奇数出现的概率各为50%,其相应的舍入误差-5和+5的概率也各为50%,在极多次修约中相互抵消,使舍入误差趋近于零。因此,采用“四舍六入五单双”法比“四舍五入”法更为科学合理。