分析数据的处理

2012/6/9 20:38:27  作者:labgogo


. 有效数字及其运算规则

1. 有效数字的意义和位数

1)有效数字:所有准确数字和一位可疑数字(实际能测到的数字)

2)有效位数及数据中的“ 0 ”

      1.0005,                     五位有效数字

      0.5000,      31.05%         四位有效数字

      0.0540,      1.86            三位有效数字

      0.0054,      0.40%          两位有效数字

      0.5,         0.002%         一位有效数字

2. 有效数字的表达及运算规则

1)记录一个测定值时,只保留一位可疑数据,

2)整理数据和运算中弃取多余数字时,采用“数字修约规则”

四舍六入五考虑

五后非零则进一

五后皆零视奇偶

五前为奇则进一

五前为偶则舍弃

不许连续修约

3)加减法:以小数点后位数最少的数据的位数为准,即取决于绝对误差最大的数据位数;

4)乘除法:由有效数字位数最少者为准,即取决于相对误差最大的数据位数;

5)对  数:对数的有效数字只计小数点后的数字,即有效数字位数与真数位数一致;

6)常  数:常数的有效数字可取无限多位;

7)第一位有效数字等于或大于 8 时,其有效数字位数可多算一位;

8)在计算过程中,可暂时多保留一位有效数字;

9)误差或偏差取 1~2 位有效数字即可。

. 可疑数据的取舍

1. Q-检验法 (3~10次测定适用,且只有一个可疑数据)

  (1) 将各数据从小到大排列:x1, x2, x3……xn ;

  (2)计算  (x-x),  即  (xn -x1);

  (3)计算    ( x-x),

  (4)计算舍弃商  Q =ô x-xô/ xn -x1 

  (5)根据 n P Q 值表得 Q

 6)比较 Q Q

     若:    Q ³ Q表   可疑值应舍去

             Q < Q表    可疑值应保留

2. G检验法(Grubbs  法)

设有n各数据,从小到大为x1, x2, x3,…… xn;

                          其中 x1 xn为可疑数据:

1) 计算 (包括可疑值x1 xn在内)、∣x可疑-∣及S

2) 计算G

3) 查G值表得Gn,P

4) 比较GGn,P

   G ³ Gn,P则舍去可疑值;

            G < Gn,P则保留可疑值。

. 分析数据的显著性检验

1. 平均值()与标准值(m)之间的显著性检验 —— 检查方法的准确度

                   (20)

     t ³ t0.95, n  则 m 有显著性差异(方法不可靠)

             t < t0.95, n  则 m 无显著性差异(方法可靠)

2. 两组平均值的比较

1)先用F 检验法检验两组数据精密度 S1(小)S2(大) 有无显著性差异(方法之间)

                      (21)

      若此 F 值小于表中的F(0.95) 值,说明两组数据精密度S1S2无显著性差异,反之亦反。

2)再用 t 检验法检验两组平均值之间有无显著性差异

                 (22)

    t0.95 (f=n1+n2)

    t ³ t0.95, n  则 说明两平均值有显著性差异

t < t0.95, n  则 说明两平均值无显著性差异

上一篇:实验室操作要领及注意事项 
下一篇:什么是杯芳烃,以及杯芳烃的用途