水分测定仪 » 讨论区 » 分析百问 » 【转载】【讨论】标准曲线计算中保留位数??

采购询价

点击提交代表您同意 《用户服务协议》 《隐私政策》

 
需要登录并加入本群才可以回复和发新贴

标题:[未解决]【转载】【讨论】标准曲线计算中保留位数??

  [未解决]本主题悬赏 可用分 1  
longquan[使用道具]
五级
Rank: 5Rank: 5


UID 119246
精华 0
积分 2127
帖子 3914
信誉分 100
可用分 5918
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
11
 

回复 #1 small2011 的帖子

相关系数r取3~4位或取到4位后不为9的位数(如0.99996);由于要继续参与计算,须分别比计算结果和分光光度计的读数多取一位,所以斜率应取4位有效数字,截距a一般取4位小数;比色法的计算结果一般应取三位有效数字,对于氨氮来说,≥0.1时取3位有效数字,<0.1时取两位有效数字,注意有效数字不能等同于保留小数位数。
因此回归方程表述应正确为:Y=0.003600X-0.0087   r=0.9998
                     计算结果:0.XXX
顶部
熊猫[使用道具]
五级
Rank: 5Rank: 5


UID 119232
精华 1
积分 1796
帖子 3228
信誉分 102
可用分 4330
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
12
 
我觉得两种的差别不是很大啊!
顶部
铃儿响叮当[使用道具]
二星
Rank: 7Rank: 7Rank: 7


UID 71307
精华 4
积分 9060
帖子 13603
信誉分 108
可用分 17263
专家分 0
阅读权限 255
注册 2011-8-24
状态 离线
13
 
上面说的是HJ/T91-2002。
顶部
ay123[使用道具]
五级
Rank: 5Rank: 5


UID 119244
精华 2
积分 2402
帖子 4436
信誉分 104
可用分 6617
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
14
 
斜率按照有效数字来保留,一般和所用量器或信号值能达到的有效位数来计算。比如你的曲线用移液管(即使是取1ml溶液,记为1.00ml,3位有效数字)配制标准溶液(标准溶液有3~4位有效数字)、用比色管(比色管有效数字3位)盛装比色液、用光度计测量吸光度(一般可以有3位有效数字,个别低浓度的除外),所以校准曲线的斜率是3位有效数字,不是小数点后三位。当数据很小时,用科学计数法表示斜率。
截距的含义就是吸光度,所以和吸光度相同保留小数后3位,当然,如果有能读到小数点后4位的就保留小数点后4位啦。
也就是你的方程斜率应该是0.00360(也许不是这个数),而截距是0.009.
如果为了更加精密、准确,斜率截距都可以多保留一位
线性关系相关系数r保留所有9再加一位,最多保留4个9
还有,线性关系相关系数r的运算规则与其他数据运算规则不同,要舍去的数不管多大都是只退不进
如0.99978,记为0.9997而不是0.9998
0.99999记为0.9999而不是1.0000
顶部
龙泉[使用道具]
五级
Rank: 5Rank: 5


UID 119248
精华 1
积分 1831
帖子 3298
信誉分 102
可用分 4556
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
15
 
至少保留位数:截距——小数点后3位;斜率——三位有效数字;相关系数——第一位非9(不需要四舍五入,是多少就多少)数字。
顶部
tomm[使用道具]
五级
Rank: 5Rank: 5


UID 119240
精华 0
积分 2226
帖子 4071
信誉分 100
可用分 5555
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
16
 
斜率 最多3位有效数字and同浓度有效位数相同或者多保留一位(浓度有效位数为4位)。
截距 3位有效数字and小数位数和吸光度对其或者多一位。
相关系数 最多4位小数,只舍不入。"and"表示前后两项要求都要满足。
顶部
坚持2011[使用道具]
二星
Rank: 7Rank: 7Rank: 7


UID 71344
精华 1
积分 9370
帖子 13818
信誉分 101
可用分 17707
专家分 0
阅读权限 255
注册 2011-8-24
状态 离线
17
 
斜率的保留位数应该比吸光度位数最多多一位,。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

这个问题我还没考虑过,一直都是电脑自己做出曲线,我直接超的。
顶部
nsdm[使用道具]
五级
Rank: 5Rank: 5


UID 119716
精华 2
积分 2321
帖子 4253
信誉分 104
可用分 5879
专家分 0
阅读权限 255
注册 2014-1-19
状态 离线
18
 

回复 #17 坚持2011 的帖子

斜率位数与吸光度无关,而与标准的浓度或质量有关;与吸光度有关的是截距的位数。电脑出的曲线或要修正。
顶部
龙泉[使用道具]
五级
Rank: 5Rank: 5


UID 119248
精华 1
积分 1831
帖子 3298
信誉分 102
可用分 4556
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
19
 
这个很困惑啊!
顶部
jkh123[使用道具]
五级
Rank: 5Rank: 5


UID 119717
精华 1
积分 1800
帖子 3236
信誉分 102
可用分 4072
专家分 0
阅读权限 255
注册 2014-1-19
状态 离线
20
 
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。
顶部