提问
盖德化工网  >  盖德问答  >  在容量分析计算中,有...

在容量分析计算中,有效数字的保留规则是什么? 1

0评论 +关注
共1个回答

在前面文章中,根据仪器的准确度介绍了有效数字的意义,和记录原则。而在容量分析计算中,有效数字的保留更为重要。下面仅就加减和乘除法的运算规则加以讨论。

1.加减法
加减法运算中,保留有效数字的位数,以小数点后位数最少的为准。即绝对误差最大的为准,例如
0.0121克+25.64克+1.05782克=?
上面相加的三个数据中,25.64中的4已是可疑数。因此最后结果有效数字的保留应以此数为准即保留有效数字的位数到小数点后第二位。所以左面的写法是正确的,而右面的写法是不正确的。
2.乘除法
乘除法运算中,保留有效数字的位数,以位数最少的数为准,即以相对误差最大的数为准。例如
0.0121×25.64×1.05782=?
以上三个数的乘积应为:
0.0121×25.6×1.06=0.328
在这个算题中三个数字的相对误差分别为:
±0.0001/0.0121×100=±0.8%
±0.01/25.64×100=±0.04%
±0.00001/1.05782×100=±0.00009%
在上述计算中以第一个数的相对误差最大(有效数字为三位),应以它为准,将其它数字以四含五入原则保留三位有效数字,然后相乘即得0.328结果。
再计算一下结果0.328的相对误差:
±0.001/0.328×100=±0.3%
此数的相对误差与第一数的相对误差相适应。故应保留三位有效数字。
如果不考虑有效数字保留原则,直接计算:
0.0121×25.64×1.05782=0.32818230808
结果得到11位数字,显然是不合理的。
同样在计算中也不能任意减少位数,如上述结果记为0.32也是不正确的,这个数的相对误差为:
±0.01/0.32×100=3%
显然是超过了上面三个数的相对误差。
3.自然数
在定量分析运算中,有时会遇到一些倍数或分数的关系如:
H3PO4的当量=M(H3PO4)/3=98/3=32.67
水的分子量=2×1.008+16.00=18.02
在这里分母3和2×1.008中的2不能看做为一位有效数字。因为它们是非测量所得到的数,是自然数,可视为无限有效。
在定量的常量分析中一般是保留四位有效数字,但在中控分析中,只要求保留二位或三位有效数字。
相关问题
柴油加氢裂化因焦化装置切塔时焦化柴油携带杂质导致过滤器冲洗? 0个回答
如何防止气化炉渣水处理开停车期间灰水管道垢片脱落? 0个回答
BGA、CSP封装中的球窝缺陷? 1个回答
锂电池涂布行业中,挤压模头使用的垫片厚度大家是怎么计算出来? 0个回答
多糖提取后,加乙醇沉淀产生絮状物,为什么离心后上层有絮状物? 0个回答
编辑推荐
三价铬溶液颜色问题? 15个回答
能否用离心代替旋蒸去除乙醇? 2个回答
想请教下靛蓝染料在紫外分光光度计下吸收的问题? 4个回答
硫酸钙结垢,用什么清洗掉? 4个回答
氰基取代苯环上的卤素的反应条件? 0个回答
 
请填写举报原因
选择举报原因
 
增加悬赏
剩余能量值
能量值