设为首页收藏本站Access中国

Office中国论坛/Access中国论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

返回列表 发新帖
查看: 3055|回复: 5
打印 上一主题 下一主题

求助:INT公式计算结果是错的?为什么?

[复制链接]
跳转到指定楼层
1#
发表于 2008-4-21 09:45:22 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
公式如下:=int((0.74-0.8)*100),结果为什么是-7?不应该是-6吗?
恳请高手指点,不胜感激。

(需求背景:工作需要设置一个自动计算公式。要求如下:“使用比例>=80%得5分,每低1%,扣0.5分,扣完5分为止。”,我的公式是:=IF(D9>=0.8,5,FLOOR(5+(INT((D9-0.8)*100)*0.5),0.5))。但是在0.74的时候结果不正确了)

分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 分享分享 分享淘帖 订阅订阅
2#
发表于 2008-4-21 11:50:30 | 只看该作者
用下面的公式可以得到-6.
=INT(ROUND(((0.74-0.8)*100),0))

以前我也碰到过类似的情形。
当单元格是小数时,显示的是整数或所要求的数,
但是,实际上在其后面还有数。
例如:显示0.4
有可能里面的数是0.40000001
那么,正数不要紧,负数就出问题了。
3#
发表于 2008-4-21 12:29:15 | 只看该作者
Int 和 Fix 都会删除 number 的小数部份而返回剩下的整数。

Int 和 Fix 的不同之处在于,如果 number 为负数,则 Int 返回小于或等于 number 的第一个负整数,而 Fix 则会返回大于或等于 number 的第一个负整数。例如,Int 将 -8.4 转换成 -9,而 Fix 将 -8.4 转换成 -8。

Fix(number) 等于:

Sgn(number) * Int(Abs(number))
在EXL时,情况相同
4#
发表于 2008-4-21 14:06:04 | 只看该作者
可是,根据式子=int((0.74-0.8)*100)
答案明显是-6,没有多余的数,可结果是-7.
[:30] [:30]
5#
发表于 2008-4-21 14:13:07 | 只看该作者
我认为,EXCEL在数值计算时,通过一定的数值转换,造成了我们认为公式正确的,但是实际结果跟预想不符合的结果。
上次我就发生过单精度和双精度定义的差别。
6#
 楼主| 发表于 2008-4-21 16:19:33 | 只看该作者
那么,我所提到的需求就没有办法通过这个公式得到正确的结果了吗?请问有没有替代的公式可以实现?
您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|站长邮箱|小黑屋|手机版|Office中国/Access中国 ( 粤ICP备10043721号-1 )  

GMT+8, 2024-11-15 06:27 , Processed in 0.075564 second(s), 29 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表