实验室有效数字的处理

本文重点为您介绍关于实验室检测的相关方法和技术,好彩汇是专业的实验室测试用耗材供应商,提供各类实验室测试用耗材,同时也为您分享实验测试的方法和标准解读,欢迎咨询。
实验室有效数字的处理(一)、有效数字1.在分析工作中实际能测量到的数字就称为有效数字。2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差1(二)、有效数字修约规则用“四舍六入五成双”规则舍去过多的数字。即当尾数≤4时,则舍;尾数≥6时,则入;尾数等于5时,若5前面为偶数则舍,为奇数时则入。当5后面还有不是零的任何数时,无论5前面是偶或奇皆入。 例如:将下面左边的数字修约为三位有效数字 2.3242.32 2.3252.32 2.3262.33 2.3352.34 2.325012.33(三)、有效数字运算法则 1.在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。 例如:2.03750.074539.54 = 39.54是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:2.040.0739.54 = 41.65 2.在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。 例如:13.92×0.0112×1.9723 = 0.0112是三位有效数字,位数最少,它的相对误差最大,所以应以0.0112的位数为准,即: 13.9×0.0112×1.97 = 0.307 3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。4.检验结果的写法应与规定相一致。" s6 R9 J! o$ U

本次关于上述问题的专业知识就分享到这里了,更多相关问题欢迎关注我们。好彩汇专业提供实验室测试用耗材,供应各类有关纺织实验室测试用耗材,欢迎咨询。

相关文章

扫描二维码关注我们

扫描二维码 关注我们