Office中国论坛/Access中国论坛

标题: 谁有自己编制的除法函数？ [打印本页]

作者: 崔延东 时间: 2003-5-6 01:56
标题: 谁有自己编制的除法函数？
谁有自己编制的除法函数？能从理论上保证计算万无一失的，我觉得微软的简单的几种除法不好用，几千分之一的机会就有错误发生。

作者: 李啸林 时间: 2003-5-6 15:20
真的吗? 你能不能具体讲讲微软的除法在什么时候会出错.
另外,我补充一点,计算机是不能精确的表示浮点数的,更别谈分数了.连0.1这样最简单的实数,也无法用二进制代码进行精确的表示.

作者: 崔延东 时间: 2003-5-7 04:55
我的人事工资软件在通过变量运算时，确实有时有问题，经过出发运算后，就是不能有正确的结果，主要是4舍5入，除零判断，误差控制等方面，我觉得有自己的函数会好用些，但是刚刚想到，原来除法运算相信系统，但是系统出了万一的错误，用户可不饶你，没有判断算法，代码也罗嗦不少。

作者: 李啸林 时间: 2003-5-7 15:17
哦.因为计算机只能够近shi 的表示浮点数, 运算次数多了,误差肯定会发生,这是无法避免的,我的做法是所有的数字都改用货币类型,货币类型是定点数.

另外,VBA中的4舍5入和我们小学课本里面教的不太一样:
4舍5入(0.4)=0
4舍5入(0.5)=0
4舍5入(0.50001)=1

欢迎光临 Office中国论坛/Access中国论坛 (http://www.office-cn.net/)