Office中国论坛/Access中国论坛

标题: 请教有效位数判断 [打印本页]

作者: 我要飞 时间: 2002-5-9 23:47
标题: 请教有效位数判断
请教：如何进行数字有效位数判断。

两位有效数：
规则是首先小数点后第二位
  >=6 第2位进1；<=4 不进位
看数的小数点后几位：
>3位非零，则第二位进1
<3位非零，看小数点后第一位
   0，2，4，6，8 不进位
   1，3，5，7，9 小数点第二位进1

作者: tmtony 时间: 2002-5-10 01:14
我有点乱，能拿个数字举个例子吗

作者: 我要飞 时间: 2002-5-10 03:28
这是计量认证的规则之一，举例如下：
原始数据          判别为       理由
0.145             0.15       1为奇数数
0.1501             0.16       01为非零
0.150             0.16       1为奇数
0.250             0.25       2为偶数
0.254             0.25       4<5
0.256             0.27       6>5
我原想right(str(value),1)先判断最后一位数值，再决定加0.01与否，好象没成?
请指教!!!

[此贴子已经被作者于2002-5-9 19:27:48编辑过]

作者: ganrong 时间: 2002-5-10 04:00
提示: 作者被禁止或删除内容自动屏蔽

作者: 我要飞 时间: 2002-5-10 17:26
对不起！，我写错了，应该是0.26

作者: 我要飞 时间: 2002-5-11 16:52
请各位高手指点一下思路吧！此口诀是：
4舍6入5奇偶

作者: make 时间: 2002-5-11 17:18
>3位非零是指小数点后的位数大于3位，还是指小数点第2位后的位数大于3位呢

作者: 我要飞 时间: 2002-5-11 18:13
好消息！关于有效位数的问题已经不刃自解了，怎么回事呢？
原来access已经解决了，不信大家可以试试。
ACESSS实在太伟大了！！！

作者: make 时间: 2002-5-11 18:52
怎幺解决啊,能不能详细说说啊

作者: 我要飞 时间: 2002-5-12 17:52
怎么解决的，这就要去问ACCESS了!
“非零”是指约定保留位以后的非零数

例：约定保留3位
15.125001 最后一位“1”就是，最后取值为15.126

[此贴子已经被作者于2002-5-12 9:52:21编辑过]

作者: 我要飞 时间: 2002-5-14 22:30
好奇怪！！！我家的access2000和单位的在奇偶判断正好相反？
如：保留2位有效数字，
         家             单位
0.155    0.16(正确)    0.15
0.055    0.05（正确） 0.06
  哪位高手帮我解释一下，如何解决！！！  谢谢！！！

欢迎光临 Office中国论坛/Access中国论坛 (http://www.office-cn.net/)