|
4#
楼主 |
发表于 2004-10-26 17:26:00
|
只看该作者
黄大师:您好! 有关有效数字问题,如你检测得到的数据报告12,则表示个位2是不确定的(可能是整数,也可能为11.8 12.3经过数自修约得到的),报告为12.0则0是不确定的(可能为整数12.0,也可能为12.04 12.01等修约而来的),所以是有很大区别的.国家标准检验方法多数要求报告极为有效数字. 拜读了您的公式,有几点意见: 1 有关四舍六入而尾数为5时的集中情况以保留3位有效数字为例) ①3.61500 修约后为 3.62 (5后为0,5前一位单数进位) ②3.62500 修约后为 3.62 (5后为0,5前一位双数舍去) ③3.625001 修约后为 3.63 (5后不全部为0 ,不管5前一位是单是双均进位) ④0.003615 修约后为0.00362 您的公式在. 第②③两种情况解决的很好.但第①种情况没能进位成3.62 第4种情况下只显示0.003(只有一位有效数字),而0.00362才是3位有效数字,3之前的0不是有效数字是定小数位数用的(如果是0.00300也是3位有效数字,3之后的0是有效数字)2 较大的数需用指数表示,才能表示出有效数字位数,如123000,保留3位有效数字为1.23X10^5(抱歉上标我不会打).好在我在工作中碰到的很少,公式中可以不要这一部分.至于正好是整数如12 0.12 不能显示成12.0 0.120 这种情况也很少见,故也可以不予考虑.另外有的大虾提供的公式,也有许多缺陷:1公式:=IF(IF(IF(MIDB(A1,2,1)=".","小数","整数")="整数","整数",IF(MIDB(A1,2,1)=".","小数","整数")&INT(A1))="小数0",ROUND(A1,3),ROUND(A1,2))2 公式:=IF(ABS(RIGHT(formatA,3))<2,LEFT(formatA,digit)*POWER(10,RIGHT(formatA,3)),LEFT(formatA,digit)& " × 10^" & VALUE(RIGHT(formatA,3)))烦请黄老师再费心!谢谢! |
|