欢迎访问ic37.com |
会员登录 免费注册
发布采购

实验数据处理

日期:2012-5-18 (来源:互联网)

数据处理则是应用数学方法和计算工具,对测量数据进行科学的分析、研究和处理的原则和方法。

2.3.1有效数字的处理1.有效数字所谓有效数字,是指在测量数值中,从最左边第一个非零数字开始至右边最后一个数字为止所包含的所有数字。在记录或计算数据时,确定用几位数字来表示测量或数据运算的结果,是一个很重要的问题。测量结果包含误差,说明它是一个近似数,其精度有一定限度,在记录测量结果或进行数据运算时的取值多少,都应该以测量所能达到的精度为依据。不能认为在一个数据中,小数点后面位数越多,这介数据就越准确;也不能认为在计算ST7520FKC-2X405.html" target="_blank" title="ST7520FKC-2X405">ST7520FKC-2X405测量结果中,保留的位数越多,准确度就越高。因为测量数据都是近似值,是用有效数字来表示的。

有效数字的位数不仅表达了被测量的大小,也表达了测量的精度。

例如,测得的信号电压为0.0125V,它是由1、2、5这3个有效数字表示的,其左边的两个0不是有效数字,因为可以通过单位变换,将这个数字写成12.5mV。其末位数字5,通常是在测量中估计出来的,因此称它为欠准确数字,其左边的各个有效数字是准确数字。

准确数字和欠准确数字对测量结果都是必不可少的,它们都是有效数字。

2.有效数字的正确表示方法(1)在有效数字中,应保留一个欠准确数字在记录测量数据时,最后一位有效数字是欠准确数字,这样记取的数字表明被测量可能在最后一位数字上变化±1单位。例如,用一个刻度为50分度(量程为50V)的电压表,测得电压为42.5V,则该电压是用3位有效数字表示的,其中4和2是准确数字,+而5则是欠准确数字,因为5是根据最小刻度估计出来的,它可能被估读为4,也可能被估读为6。所以,上述测量结果可以表示为(42.5+0.1)V。

(2)欠准确数字中,要特别注意“0”的情况例如,测量某电阻值为23.400kQ,表明前面2、3、4、O是准确数字,最后一位O是欠准确数字。如果写成23.4kQ,则表明2、3是准确数字,而4是欠准确数字。上述两种数字的写法,尽管表示的是同一数值,但实际上反映了不同的测量准确度。

如果用aXl0”的形式来表示一个数据,可以从口含有几个有效数字来确定近似数的有效位数。例如,2.3400xl04Q表示5位有效数字,而2.340xl04Q则表示4位有效数字。

(3)舍入规则对于很多的近似数,当有效位数确定以后,其后面的多余数字应该舍去。如果对于测定的或通过计算获得的数据,只取n位有效数字,那么第n+l位及其后的各位数字都应该舍去。

而对于第n+l位数字应按下面的舍入规则进行处理。

①小于5舍去,即舍去部分的数值小于保留部分末位的半个单位,则末位不变。

②大于5进1,即舍去部分的数值大于保留部分末位的半个单位,则末位加1。

③等于5时取偶数,即舍去部分的数值等于保留部分末位的半个单位,则末位凑成偶数。当末位为偶数时,则末位不变;当末位为奇数时,则末位加1。

例如,按上述舍入规则,将下面各个数据保留4位有效数字迸行凑整。

原有数据1.412135.250506.315494.444503.141593.745507.17160

舍入后数据1.4125.2506.1354.4443.1423.7467.172

必须指出,上述舍入规则的第3条明确规定,被舍去的数字不是见5就入,所以这种因为数字舍入而引起的误差属于随机误差。在大量运算时,其舍入误差的均值趋于零,这就避免了过去所采用的四舍五入规则时,由于舍入误差的积累而产生系统误差。

经过舍入处理后的近似数,中间的O和末位的0都是有效数字,不能随意增加或删减。

多写会放大测量的准确度,少写则会放大误差。但开头的0不是有效数字,因为它们仅与选取的测量单位有关。