盐池滩羊免费吃

化验员、质监员培训讲义基本常识之有效数字的处理

   2021-07-27 食品微生物检测公众号242
核心提示:一、有效数字。1.在分析工作中实际能测量到的数字就称为有效数字。2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差(世界食品网-www.shijieshipin.com)
 一、有效数字。

1.在分析工作中实际能测量到的数字就称为有效数字。

2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差1。


二、有效数字修约规则

用“四舍六入五成双”规则舍去过多的数字。

即当尾数≤4 时,则舍;尾数≥6 时,则入;尾数等于5 时,若5 前面为偶数则舍,为奇数时则入。当5 后面还有不是零的任何数时,无论5 前面是偶或奇皆入。

例如:将下面左边的数字修约为三位有效数字

2.324→2.32 2.325→2.32 2.326→2.33 2.335→2.34 2.32501→2.33


三、有效数字运算法则

1.在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。

例如:2.0375+0.0745+39.54=?

39.54 是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54 为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:2.04+0.07+39.54=41.65


2.在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。

例如:13.92×0.0112×1.9723=?

0.0112 是三位有效数字,位数最少,它的相对误差最大,

所以应以0.0112 的位数为准,

即:13.9×0.0112×1.97=0.307


3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。


4.检验结果的写法应与药典规定相一致。





 
反对 0举报 0 收藏 0 打赏 0
 
更多>同类检验技术
推荐图文
推荐检验技术
点击排行
 
盐池滩羊