水分测定仪 » 讨论区 » 分析百问 » 【转载】【讨论】标准曲线计算中保留位数？？

采购询价

点击提交代表您同意 《用户服务协议》 《隐私政策》

 28  1/3 123››
 
需要登录并加入本群才可以回复和发新贴
打印 | 推荐 | 订阅 | 收藏

标题:[未解决]【转载】【讨论】标准曲线计算中保留位数？？

  [未解决]本主题悬赏 可用分 1  
small2011[使用道具]
二星
Rank: 7Rank: 7Rank: 7


UID 71343
精华 0
积分 9992
帖子 15064
信誉分 100
可用分 20428
专家分 0
阅读权限 255
注册 2011-8-24
状态 离线
1

发表于 2014-12-26 16:16 资料 个人空间 短消息  加为好友 

 小中大

【转载】【讨论】标准曲线计算中保留位数？？

标准曲线计算中保留位数应该保留几位？
我们配置了一条氨氮标准曲线，
计算曲线：保留三位小数是：Y=0.004X-0.009   r=0.9998      回归方程1
计算曲线：保留四位小数是：Y=0.0036X-0.0087   r=0.9998    回归方程2
样品的吸光度是0.146   空白吸光度是0.017
经计算： 回归方程1    计算结果是0.69
经计算： 回归方程2    计算结果是0.74
我到底应该用哪个回归方程计算结果？？？
请大家讨论!!!
顶部
小熊猫[使用道具]
五级
Rank: 5Rank: 5


UID 119215
精华 0
积分 1755
帖子 3130
信誉分 100
可用分 4039
专家分 10
阅读权限 255
注册 2014-1-6
状态 离线
2

发表于 2014-12-26 16:17 资料 个人空间 短消息  加为好友 

 小中大
斜率的保留位数应该比吸光度位数最多多一位，。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/
顶部
small2011[使用道具]
二星
Rank: 7Rank: 7Rank: 7


UID 71343
精华 0
积分 9992
帖子 15064
信誉分 100
可用分 20428
专家分 0
阅读权限 255
注册 2011-8-24
状态 离线
3

发表于 2014-12-26 16:17 资料 个人空间 短消息  加为好友 

 小中大

回复 #2 小熊猫 的帖子

依据是什么呀？！
顶部
小黄[使用道具]
五级
Rank: 5Rank: 5


UID 119235
精华 0
积分 2401
帖子 4422
信誉分 100
可用分 6758
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
4

发表于 2014-12-26 16:18 资料 个人空间 短消息  加为好友 

 小中大
结果差别很小啊
顶部
ay123[使用道具]
五级
Rank: 5Rank: 5


UID 119244
精华 2
积分 2402
帖子 4436
信誉分 104
可用分 6617
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
5

发表于 2014-12-26 16:19 资料 个人空间 短消息  加为好友 

 小中大

回复 #3 small2011 的帖子

源于数理统计计算原则。基本常识。
顶部
ay123[使用道具]
五级
Rank: 5Rank: 5


UID 119244
精华 2
积分 2402
帖子 4436
信誉分 104
可用分 6617
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
6

发表于 2014-12-26 16:19 资料 个人空间 短消息  加为好友 

 小中大
国标有规定的
顶部
longquan[使用道具]
五级
Rank: 5Rank: 5


UID 119246
精华 0
积分 2127
帖子 3914
信誉分 100
可用分 5918
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
7

发表于 2014-12-26 16:20 资料 个人空间 短消息  加为好友 

 小中大

回复 #2 小熊猫 的帖子

我们也是这样留的，这样取值比较准，误差小
顶部
小红[使用道具]
五级
Rank: 5Rank: 5


UID 119231
精华 1
积分 2497
帖子 4569
信誉分 102
可用分 6388
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
8

发表于 2014-12-26 16:21 资料 个人空间 短消息  加为好友 

 小中大
我也一直在找这个答案，现在有了结果了，谢谢了！
顶部
小牛牛[使用道具]
五级
Rank: 5Rank: 5


UID 119218
精华 0
积分 2318
帖子 4235
信誉分 100
可用分 6099
专家分 0
阅读权限 255
注册 2014-1-6
状态 离线
9

发表于 2014-12-26 16:22 资料 个人空间 短消息  加为好友 

 小中大
请楼主不要抓住这么点误差不放，标准曲线本来就是有误差的，要深究的话再往下保留一位那又是不一样了！一般情况就取斜率和截距的有效位数和你的X值一样就行！
顶部
大学习[使用道具]
五级
Rank: 5Rank: 5


UID 119243
精华 1
积分 1817
帖子 3189
信誉分 102
可用分 3632
专家分 0
阅读权限 255
注册 2014-1-7
状态 离线
10

发表于 2014-12-26 16:22 资料 个人空间 短消息  加为好友 

 小中大
平时就是将吸光度的直接用EXCEL做图，回归曲线就直接显示了。
没有考虑过保留位数的问题！
那位数保留的是不是至少应该和作图时的x,y的位数相同才好呢！！
顶部
 28  1/3 123››