分析测试百科

标题: 【转载】【讨论】标准曲线计算中保留位数？？ [打印本页]

作者: small2011 时间: 2014-12-26 16:16 标题: 【转载】【讨论】标准曲线计算中保留位数？？

标准曲线计算中保留位数应该保留几位？
我们配置了一条氨氮标准曲线，
计算曲线：保留三位小数是：Y=0.004X-0.009 r=0.9998 回归方程1
计算曲线：保留四位小数是：Y=0.0036X-0.0087 r=0.9998 回归方程2
样品的吸光度是0.146 空白吸光度是0.017
经计算：回归方程1 计算结果是0.69
经计算：回归方程2 计算结果是0.74
我到底应该用哪个回归方程计算结果？？？
请大家讨论!!!

作者: 小熊猫 时间: 2014-12-26 16:17

斜率的保留位数应该比吸光度位数最多多一位，。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

作者: small2011 时间: 2014-12-26 16:17 标题: 回复 #2 小熊猫的帖子

依据是什么呀？！

作者: 小黄 时间: 2014-12-26 16:18

结果差别很小啊

作者: ay123 时间: 2014-12-26 16:19 标题: 回复 #3 small2011 的帖子

源于数理统计计算原则。基本常识。

作者: ay123 时间: 2014-12-26 16:19

国标有规定的

作者: longquan 时间: 2014-12-26 16:20 标题: 回复 #2 小熊猫的帖子

我们也是这样留的，这样取值比较准，误差小

作者: 小红 时间: 2014-12-26 16:21

我也一直在找这个答案，现在有了结果了，谢谢了！

作者: 小牛牛 时间: 2014-12-26 16:22

请楼主不要抓住这么点误差不放，标准曲线本来就是有误差的，要深究的话再往下保留一位那又是不一样了！一般情况就取斜率和截距的有效位数和你的X值一样就行！

作者: 大学习 时间: 2014-12-26 16:22

平时就是将吸光度的直接用EXCEL做图，回归曲线就直接显示了。
没有考虑过保留位数的问题！
那位数保留的是不是至少应该和作图时的x,y的位数相同才好呢！！

作者: longquan 时间: 2014-12-26 16:23 标题: 回复 #1 small2011 的帖子

相关系数r取3～4位或取到4位后不为9的位数(如0.99996)；由于要继续参与计算，须分别比计算结果和分光光度计的读数多取一位，所以斜率应取4位有效数字，截距a一般取4位小数；比色法的计算结果一般应取三位有效数字,对于氨氮来说，≥0.1时取3位有效数字，＜0.1时取两位有效数字，注意有效数字不能等同于保留小数位数。
因此回归方程表述应正确为：Y=0.003600X-0.0087 r=0.9998
计算结果：0.XXX

作者: 熊猫 时间: 2014-12-26 16:23

我觉得两种的差别不是很大啊！

作者: 铃儿响叮当 时间: 2014-12-26 16:23

上面说的是HJ/T91-2002。

作者: ay123 时间: 2014-12-26 16:24

斜率按照有效数字来保留，一般和所用量器或信号值能达到的有效位数来计算。比如你的曲线用移液管（即使是取1ml溶液，记为1.00ml，3位有效数字）配制标准溶液（标准溶液有3~4位有效数字）、用比色管（比色管有效数字3位）盛装比色液、用光度计测量吸光度（一般可以有3位有效数字，个别低浓度的除外），所以校准曲线的斜率是3位有效数字，不是小数点后三位。当数据很小时，用科学计数法表示斜率。
截距的含义就是吸光度，所以和吸光度相同保留小数后3位，当然，如果有能读到小数点后4位的就保留小数点后4位啦。
也就是你的方程斜率应该是0.00360（也许不是这个数），而截距是0.009.
如果为了更加精密、准确，斜率截距都可以多保留一位
线性关系相关系数r保留所有9再加一位，最多保留4个9
还有，线性关系相关系数r的运算规则与其他数据运算规则不同，要舍去的数不管多大都是只退不进
如0.99978，记为0.9997而不是0.9998
0.99999记为0.9999而不是1.0000

作者: 龙泉 时间: 2014-12-26 16:24

至少保留位数：截距——小数点后3位；斜率——三位有效数字；相关系数——第一位非9（不需要四舍五入，是多少就多少）数字。

作者: tomm 时间: 2014-12-26 16:25

斜率最多3位有效数字and同浓度有效位数相同或者多保留一位（浓度有效位数为4位）。
截距 3位有效数字and小数位数和吸光度对其或者多一位。
相关系数最多4位小数，只舍不入。"and"表示前后两项要求都要满足。

作者: 坚持2011 时间: 2014-12-26 16:25

斜率的保留位数应该比吸光度位数最多多一位，。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

这个问题我还没考虑过，一直都是电脑自己做出曲线，我直接超的。

作者: nsdm 时间: 2014-12-26 16:37 标题: 回复 #17 坚持2011 的帖子

斜率位数与吸光度无关，而与标准的浓度或质量有关；与吸光度有关的是截距的位数。电脑出的曲线或要修正。

作者: 龙泉 时间: 2014-12-26 16:38

这个很困惑啊！

作者: jkh123 时间: 2014-12-26 16:38

保留两位小数，

我提供依据是请参考地表水和污水监测技术规范上有相关说明部分。

作者: nsdm 时间: 2014-12-26 16:39

这个问题一直很纠结，可能就是分析化学的一个短板吧

作者: 小红 时间: 2014-12-26 16:39

地表水和污水监测技术规范上说保留两位小数了？

作者: jkh123 时间: 2014-12-26 16:40 标题: 回复 #22 小红的帖子

说了啊·你没看到？？？

作者: 小红 时间: 2014-12-26 16:40 标题: 回复 #23 jkh123 的帖子

10.2.7 以一元线性回归方程计算时，校准曲线斜率 b的有效位数，应与自变量 x  i 的有效数

字位数相等，或最多比 x  i 多保留一位。截距 a的最后一位数，则和因变量 y  i 数值的最后一

位取齐，或最多比 y  i 多保留一位数。

作者: jkh123 时间: 2014-12-26 16:41 标题: 回复 #24 小红的帖子

你稍等，我再去查看一下，去年我们技术负责人专门在复评的时候与专家讨论过这个问题

作者: jkh123 时间: 2014-12-26 16:42 标题: 回复 #24 小红的帖子

查到了 10.6 校准曲线

10.6.2 校准曲线a b最多保留三位有效数字。并且以幂的形式来表示。简单的说大家都是用科学计数法来表示

举例 0.9011 计为9.01*10的三次方

作者: a456 时间: 2014-12-26 16:42

GB5749-2006总则中有啊

作者: 小红 时间: 2014-12-26 16:43 标题: 回复 #26 jkh123 的帖子

恩。最多保留三位有效数字和两位小数还是很不同的。如果保留两位小数，曲线斜率0.00763只能保留成0.01了，相差太大了。

欢迎光临分析测试百科 (http://bbs.antpedia.com/)