设为首页收藏本站Access中国

Office中国论坛/Access中国论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

返回列表 发新帖
查看: 1108|回复: 3
打印 上一主题 下一主题

[其它] 谁有自己编制的除法函数?

[复制链接]
跳转到指定楼层
1#
发表于 2003-5-6 01:56:00 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
谁有自己编制的除法函数?能从理论上保证计算万无一失的,我觉得微软的简单的几种除法不好用,几千分之一的机会就有错误发生。
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 分享分享 分享淘帖 订阅订阅
2#
发表于 2003-5-6 15:20:00 | 只看该作者
真的吗? 你能不能具体讲讲微软的除法在什么时候会出错.
另外,我补充一点,计算机是不能精确的表示浮点数的,更别谈分数了.连0.1这样最简单的实数,也无法用二进制代码进行精确的表示.
3#
 楼主| 发表于 2003-5-7 04:55:00 | 只看该作者
我的 人事工资软件在通过变量运算时,确实有时有问题,经过出发运算后,就是不能有正确的结果,主要是4舍5入,除零判断,误差控制等方面,我觉得有自己的函数会好用些,但是刚刚想到,原来除法运算相信系统,但是系统出了万一的错误,用户可不饶你,没有判断算法,代码也罗嗦不少。
4#
发表于 2003-5-7 15:17:00 | 只看该作者
哦.因为计算机只能够近shi 的表示浮点数, 运算次数多了,误差肯定会发生,这是无法避免的,我的做法是所有的数字都改用货币类型,货币类型是定点数.

另外,VBA中的4舍5入和我们小学课本里面教的不太一样:
4舍5入(0.4)=0
4舍5入(0.5)=0
4舍5入(0.50001)=1
您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|站长邮箱|小黑屋|手机版|Office中国/Access中国 ( 粤ICP备10043721号-1 )  

GMT+8, 2024-9-21 11:04 , Processed in 0.078690 second(s), 28 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表