公司新闻

实验结果应该保留几位有效数字?
阅读次数:1434 发布时间:2020/12/18 10:32:08
分享到:
有效数字及其有效数字的保留

1 .有效数字的定义
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有位存疑数字的全部数字叫有效数字。有效数字指,保留末位不准确数字,其余数字均为准确数字。有效数字的后位数值是可疑值。
如:0.2014为四位有效数字,末位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。

2 .有效数字的保留
由于有效数字末位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准限或技术指标规定的位数要求多保留位,后的报出值应与标准对定的位数相致。
如:在标准的限数值(或技术指标)的表示中,××≧95表明结果要求保留到整数位。因此,计算结果定要保留到小数点后位,后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留位。
如:分析天平的分辨率为0.1mg(即我们常说的万分之天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之的天平误差)。
如:GB/T 601-2016《化学试剂  标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因后位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。

“0” 在数字中的作用
“0”作为个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。

1 .定位(无效)
当“0”在小数点后,又在数字之(提:小数点为“0”)时,为定位。如:0.0001(数字4个零)  0.02040(数字2个零)均为定位作用。
2. 定值(有效)
当“0”在小数点后的数值中间或数尾(提:小数点必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点为非“0”时。如1.000 1.0204,均为有效作用。
3 不确定作用:当“0”在整数后
如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103。将4500用四位有效数字表示:0.4500×104 、45.00×102。
数字修约规则(GB/T 8170)

1.数字修约规则

“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。

上的许多家已广泛采用“四舍六入法”。我家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进,五后皆零看奇偶,五为偶应舍去,五为奇要进。”就是说,如果省略的尾数高位是4或小于4,就将尾数都舍去;如果省略的尾数高位是6或大于6,去掉尾数后,要向它的位进1;如果省略的尾数高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的位进1;如果5后面都是0,就看它的位是单数还是双数,5的位是双数,就将尾数舍去;5的位是单数,舍去尾数后要向它的位进1。

2 .检验结果的修约
根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留位,但被多保留的位数值,应该体现出修约的情况,或步修约到位,但不能存在连续修约的现象。
a)检验结果修约后,应体现出修约的情况。
如:标准值 ××<0.5
检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。
如:标准值 ××≥15
检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。
14.55(5后非零要进。讲评:在拟舍弃的数字中即14.55的第个“5”,虽然“5”为偶数,但“5”后非“0”,所以要进。)
如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。
终的报出结果只有修约到标准值上时,才用+、-表示。


b)步修约到位 (这种修约更直接和更直观)。
例题:将下列结果修约到整数位
检测结果    报出值
15.4546       15
16.5203       17
17.5000       18
14.5500       15
10.5020       11

c)不准连续修约。
拟修约数字应在确定修约位数后,应次修约获得结果,而不准多次修约即连续修约。
如15.4546 次修约结果为:15。
※ 连续修约:15.455 — 15.46-15.5-16
※ 按多保留位的修约法:15.5(-)
因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,终结果为15。

数值的修约方法
1. 数值的修约方法有两种,即修约值比较法和全数值比较法
a)修约值比较法:数值修约后,体现不出数值的修约情况;
b)全数值比较法:数值修约后,能够体现出数值的修约情况。

2 .如何选择修约值的方法  
a)当检测项目牵涉到卫生指标、安全指标等,应选用全数值比较法;
b)只有当检测结果修约到标准值上时,方采用全数值比较法。
产品搜索

请输入要搜索的关键词

联系我们
  • 公司名称:上海远慕生物科技有限公司
  • 公司地址:上海市嘉定区曹安公路5588号
  • 公司电话:021-58999639
  • 公司传真:021-58999639
  • 联系人:俞燕熙
  • 手机:13310162040
  • 网址:www.yuanmubio.com

上海远慕生物科技有限公司:细胞冻存液,氨苄青霉素溶液,人白介素ELISA试剂盒,大鼠ELISA试剂盒,小鼠ELISA试剂盒,显色试剂盒,新生牛血清,标准胎牛血清,牛血清白蛋白溶液,小鼠血浆,鸡红细胞,透明质酸酶溶液,微生物培养基,胰蛋白酶储存液,两性霉素B溶液,LB冷冻缓冲液,ABTS试剂,磷酸酶抑制剂,EB缓冲液,荧光染色试剂盒,肥大细胞染色液,人源基因质粒,胡蔓藤碱乙标准品,番茄红素标准品,Pd-C-II标准品,知母皂苷E标准品,穿刺培养基,puc19质粒,CPD抗凝剂,荧光抗体稀释液
地址:上海市嘉定区曹安公路5588号 电话:021-58999639 传真:021-58999639 技术支持:阿仪网 总访问量:7093799

在线客服
热线电话

02158999639

13310162040

工作时间:8:30-18:00

12

阿仪网推荐收藏该企业网站