第二节 运算法则
在处理数据时,常遇到一些准确度不同的数据。这类数据必须按照一定的法则进行运算,既可节省计算时间,又可避免过繁的计算引入错误,使结果能真正符合实际测试的准确度。常用的运算法则如下。
一、加法与减法的运算
只有同一物理量才能进行加减运算,而且在运算之前还必须化为同样的单位。几个数相加减时,所得和或差的有效数字决定于绝对误差最大的值,即最后结果的有效数字自左起不超过参加计算数值中第一个出现的可疑数字。如在小数的加减计算中,结果所保留的小数点后的位数与各数值中小数点后位数最少者相同。
在实际计算时,保留的位数常比各数值中小数点后位数最少者多留一位小数,而计算结果则按上述规则处理。
例1-17 508.4-438.68+13.046-6.0548=508.4-438.68+13.05-6.05=76.7
最后计算结果只能与绝对误差最大者(508.4的绝对误差为0.1,最大),即小数点后位数最少者相同,所以得76.7。
例1-18 12.3+2.345+0.1234=12.3+2.34+0.12=14.8
二、乘法与除法的运算
几个数值相乘除时,所得积或商的有效数字位数决定于相对误差最大的数值,即要与各数值中有效数字位数最少者相同。在实际计算时,可先将各数值修约至比有效数字位数最少者多保留一位,然后再将计算结果按上述规则处理。
例1-19 0.0676×70.19×6.50236=0.0676×70.19×6.502=30.9
最后的计算结果所保留的位数按上述原则处理。三个数值的相对误差RE分别为:
所以0.0676的相对误差最大,有效数字的位数应决定于0.0676的有效位数,即三位有效位数。另外0.0676为三位有效位数,也是三个数值中有效位数最少者。因此,最后计算结果只能为三位有效位数。
例1-20 1.1×2.233×0.3344=1.1×2.23×0.334=0.82
三、乘方、开方以及对数、反对数的运算
(1)乘方和开方的运算:数字进行乘方或开方时,原数字有几位有效位数,计算结果就应保留几位有效位数。
例1-21 6.542=42.8
(2)对数与反对数的运算:在数字的对数计算中,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。
例1-22 求为7.98×10-2mol/L的溶液的pH值。
上例中真数是7.98,为三位有效位数,对数1.098的小数点后也应是三位。
例1-23 求pH值为3.20的溶液的。
上例中对数3.20的小数后有两位,所以真数也应取两位有效位数。