【转载】【讨论】标准曲线计算中保留位数？？ - 分析百问

水分测定仪 » 讨论区 » 分析百问 » 【转载】【讨论】标准曲线计算中保留位数？？

28 3/3 ‹‹1 2 3

需要登录并加入本群才可以回复和发新贴

打印 | 推荐 | 订阅 | 收藏

标题:[未解决]【转载】【讨论】标准曲线计算中保留位数？？

[未解决]本主题悬赏可用分 1

nsdm[使用道具]
五级
Rank: 5

UID 119716
精华 2
积分 2321
帖子 4253
信誉分 104
可用分 5879
专家分 0
阅读权限 255
注册 2014-1-19
状态离线

发表于 2014-12-26 16:39 资料个人空间短消息加为好友

小中大

这个问题一直很纠结，可能就是分析化学的一个短板吧

小红[使用道具]
五级
Rank: 5

UID 119231
精华 1
积分 2497
帖子 4569
信誉分 102
可用分 6388
专家分 0
阅读权限 255
注册 2014-1-7
状态离线

发表于 2014-12-26 16:39 资料个人空间短消息加为好友

小中大

地表水和污水监测技术规范上说保留两位小数了？

jkh123[使用道具]
五级
Rank: 5

UID 119717
精华 1
积分 1800
帖子 3236
信誉分 102
可用分 4072
专家分 0
阅读权限 255
注册 2014-1-19
状态离线

发表于 2014-12-26 16:40 资料个人空间短消息加为好友

小中大

回复 #22 小红的帖子

说了啊·你没看到？？？

小红[使用道具]
五级
Rank: 5

UID 119231
精华 1
积分 2497
帖子 4569
信誉分 102
可用分 6388
专家分 0
阅读权限 255
注册 2014-1-7
状态离线

发表于 2014-12-26 16:40 资料个人空间短消息加为好友

小中大

回复 #23 jkh123 的帖子

10.2.7 以一元线性回归方程计算时，校准曲线斜率 b的有效位数，应与自变量 x  i 的有效数

字位数相等，或最多比 x  i 多保留一位。截距 a的最后一位数，则和因变量 y  i 数值的最后一

位取齐，或最多比 y  i 多保留一位数。

jkh123[使用道具]
五级
Rank: 5

UID 119717
精华 1
积分 1800
帖子 3236
信誉分 102
可用分 4072
专家分 0
阅读权限 255
注册 2014-1-19
状态离线

发表于 2014-12-26 16:41 资料个人空间短消息加为好友

小中大

回复 #24 小红的帖子

你稍等，我再去查看一下，去年我们技术负责人专门在复评的时候与专家讨论过这个问题

jkh123[使用道具]
五级
Rank: 5

UID 119717
精华 1
积分 1800
帖子 3236
信誉分 102
可用分 4072
专家分 0
阅读权限 255
注册 2014-1-19
状态离线

发表于 2014-12-26 16:42 资料个人空间短消息加为好友

小中大

回复 #24 小红的帖子

查到了 10.6 校准曲线

10.6.2 校准曲线a b最多保留三位有效数字。并且以幂的形式来表示。简单的说大家都是用科学计数法来表示

举例 0.9011 计为9.01*10的三次方

a456[使用道具]
五级
Rank: 5

UID 119220
精华 3
积分 2267
帖子 3862
信誉分 106
可用分 5261
专家分 0
阅读权限 255
注册 2014-1-6
状态离线

发表于 2014-12-26 16:42 资料个人空间短消息加为好友

小中大

GB5749-2006总则中有啊

小红[使用道具]
五级
Rank: 5

UID 119231
精华 1
积分 2497
帖子 4569
信誉分 102
可用分 6388
专家分 0
阅读权限 255
注册 2014-1-7
状态离线

发表于 2014-12-26 16:43 资料个人空间短消息加为好友

小中大

回复 #26 jkh123 的帖子

恩。最多保留三位有效数字和两位小数还是很不同的。如果保留两位小数，曲线斜率0.00763只能保留成0.01了，相差太大了。

28 3/3 ‹‹1 2 3

水分测定仪

水分测定仪 » 讨论区 » 分析百问 » 【转载】【讨论】标准曲线计算中保留位数？？

回复 #22 小红 的帖子

回复 #23 jkh123 的帖子

回复 #24 小红 的帖子

回复 #24 小红 的帖子

回复 #26 jkh123 的帖子

回复 #22 小红的帖子

回复 #24 小红的帖子

回复 #24 小红的帖子