文本型数据转数值型作减数后出现细微差异

apsfxc1

2000.11 - Str(2000)=0.1099999999
2000.11 - Val(Str(2000))=0.10999999
2000.11 - CCur(Str(2000))=0.11

第2个用val()后为什么还不是0.11，就因这个差异导致这次所得税少扣1分，应纳税额81.70*0.05=4.085=4.09 却变成81.6999999*0.05=4.084999995=4.08

免征额2000作为一个随时可变数以文本格式放在一张表里，计算所得税时调用，调用时用val()转换为数值，当被减数有小数时如2000.11减文本转数值的2000时，会出现尾数，大家可以试建个窗体放上命令键写上 Msgbox  2000.11 - Val(Str(2000))看看结果

老人与海

考虑一下是不是数据精度问题引起的，另外，把各数据设为双精度试试看看。

apsfxc1

那2000作为一个随时可变数以文本格式放在一张表里，计算所得税时调用，调用时用val()转换为数值

老人与海

上传附件！

djt

如果数据类型不设为currency,而是single或者双精度，会出现这个问题，建议类型改为currency,或者用round(钱,2)函数来取2位小数，但是round()函数还有个问题，如果最后一位数字是5的话，不会四舍五入，比如round(4.085,2) VBA的结果是4.08,不是4.09,解决方法是后面多加 0。0000001

Henry D. Sy

请更改标题

apsfxc1

这个标题也许能说清楚一点

apsfxc1

如果数据类型不设为currency,而是single或者双精度，会出现这个问题，建议类型改为currency,或者用round(钱,2)函数来取2位小数，但是round()函数还有个问题，如果最后一位数字是5的话，不会四舍五入，比如round(4.08 ...
djt 发表于 2009-9-3 15:27

用round()是不行的，会出现更大差异，奇进偶不进

koutx

Debug.Print 2000.11 - CCur(2000)