有效位数的保留

叮当6043 · 发表于 2016-4-15 09:07:29

您需要登录才可以下载或查看，没有帐号？立即注册

x

像含量中要求不得过0.50%，我们检验结果是1.33%，我们应该是按照有效位数1.3%出呢？还是按照小数点后位数1.33%出呢？同理要求是0.020%，检验2.67,我们检验结果是按照2.7%出呢？还是2.67%出呢？

snowheavyfly · 发表于 2016-4-15 10:43:23

必须是小数后一致，不然就可能误导，就像你说的1.33%，如果是出1.3%，那么1.34%和1.25%都可以是1.3%，这个就比较坑了，血淋淋的教训

wuhuaguo54321 · 发表于 2016-4-15 09:16:52

你们没有相关文件规定吗？
只要有规定就好说

hongwei2000 · 发表于 2016-4-15 09:21:57

应与标准限度的小数点位数一致

摇曳的紫花地丁 · 发表于 2016-4-15 09:24:40

hongwei2000 发表于 2016-4-15 09:21
应与标准限度的小数点位数一致

支持你的说法

zysx01234 · 发表于 2016-4-15 09:24:48

本帖最后由 zysx01234 于 2016-4-15 09:26 编辑

1、与限度的位数一致；
2、有关物质一般小数点保留2位，纯度或含量保留小数点1位也可以2位（与限度的位数一致）

Jackon · 发表于 2016-4-15 09:31:12

第一个是1.33%出报告，与标准的有效位数一致

pussay11 · 发表于 2016-4-15 11:13:59

有矛盾啊。。。假设是小数点位数一样，则第一个是1.33%

那么第2个取数的时候就错了，应该是2.670%？？呵呵

lovein1995 · 发表于 2016-4-15 12:12:53

从一个数的左边第一个非0数字起，到末位数字止，所有的数字都是这个数的有效数字。

lovein1995 · 发表于 2016-4-15 12:15:39

个人认为保留相同有效数字比较好 0.50%的限度1.25%和1.34%没太大区别吧

叮当6043 · 发表于 2016-4-15 13:39:17

hongwei2000 发表于 2016-4-15 09:21
应与标准限度的小数点位数一致

小数点位数的话，那0.50%，我们检验结果应该是1.33，那0.020%，我们检验结果就应该是2.670吗？还是都以小数点后有效位数为准？

hongwei2000 · 发表于 2016-4-15 13:47:47

叮当6043 发表于 2016-4-15 13:39
小数点位数的话，那0.50%，我们检验结果应该是1.33，那0.020%，我们检验结果就应该是2.670吗？还是都以小 ...

小数点位数
详见我的检验那回事之数字修约
QC版置顶

cuntian_wang · 发表于 2016-4-15 14:03:43

hongwei2000 发表于 2016-4-15 09:21
应与标准限度的小数点位数一致

hongwei老师，有法规出处？

cuntian_wang · 发表于 2016-4-15 14:03:48

hongwei2000 发表于 2016-4-15 09:21
应与标准限度的小数点位数一致

hongwei老师，有法规出处？

hongwei2000 · 发表于 2016-4-15 15:22:26

cuntian_wang 发表于 2016-4-15 14:03
hongwei老师，有法规出处？

有GB
但不好懂
建议你看USP凡例

我想我可以 · 发表于 2016-4-15 16:28:51

我觉得应与标准限度的小数点位数一致

心里有数 · 发表于 2016-4-15 16:44:32

cuntian_wang 发表于 2016-4-15 14:03
hongwei老师，有法规出处？

药典凡例

Tracy789 · 发表于 2018-12-6 15:58:45

有效位，就是有效数字吗？

小金库 · 发表于 2022-7-22 12:34:47

感谢分享。

[吐槽及其它] 有效位数的保留