Office中国论坛/Access中国论坛

标题: 求助：INT公式计算结果是错的？为什么？ [打印本页]

作者: foobarreal 时间: 2008-4-21 09:45
标题: 求助：INT公式计算结果是错的？为什么？
公式如下：=int((0.74-0.8)*100)，结果为什么是-7？不应该是-6吗？
恳请高手指点，不胜感激。

（需求背景：工作需要设置一个自动计算公式。要求如下：“使用比例>=80%得5分，每低1%，扣0.5分，扣完5分为止。”，我的公式是：=IF(D9>=0.8,5,FLOOR(5+(INT((D9-0.8)*100)*0.5),0.5))。但是在0.74的时候结果不正确了）

作者: chenwm1973 时间: 2008-4-21 11:50
用下面的公式可以得到－6.
=INT(ROUND(((0.74-0.8)*100),0))

以前我也碰到过类似的情形。
当单元格是小数时，显示的是整数或所要求的数，
但是，实际上在其后面还有数。
例如：显示0.4
有可能里面的数是0.40000001
那么，正数不要紧，负数就出问题了。

作者: dgymx 时间: 2008-4-21 12:29
Int 和 Fix 都会删除 number 的小数部份而返回剩下的整数。

Int 和 Fix 的不同之处在于，如果 number 为负数，则 Int 返回小于或等于 number 的第一个负整数，而 Fix 则会返回大于或等于 number 的第一个负整数。例如，Int 将 -8.4 转换成 -9，而 Fix 将 -8.4 转换成 -8。

Fix(number) 等于：

Sgn(number) * Int(Abs(number))
在EXL时，情况相同

作者: chenwm1973 时间: 2008-4-21 14:06
可是，根据式子=int((0.74-0.8)*100)
答案明显是－6，没有多余的数，可结果是－7.
[:30] [:30]

作者: chenwm1973 时间: 2008-4-21 14:13
我认为，EXCEL在数值计算时，通过一定的数值转换，造成了我们认为公式正确的，但是实际结果跟预想不符合的结果。
上次我就发生过单精度和双精度定义的差别。

作者: foobarreal 时间: 2008-4-21 16:19
那么，我所提到的需求就没有办法通过这个公式得到正确的结果了吗？请问有没有替代的公式可以实现？

欢迎光临 Office中国论坛/Access中国论坛 (http://www.office-cn.net/)