Office中国论坛/Access中国论坛

标题: 简单的小学生数学题，为什么计算机算不出 [打印本页]

作者: zyongke 时间: 2021-10-15 10:18
标题: 简单的小学生数学题，为什么计算机算不出
excel 单元格输入公式 =2.3-2.1-0.2 结果本应是0，可计算机给出的结果是-2.77555756156289E-16。调整一下公式 =2.3-0.2-2.1 就能得到正确结果0，真的搞不明白。
类似的还有很多，比如输入公式 =20.3-20.1-0.2 或 =20.3-20.1-0.2 结果都不是0 ，而是很长的科学计数。
这个问题在wps office中同样存在。电脑板wps office 输入上述公式，结果也都不是0。手机板wps office 输入公式=2.4+2.2-4.4-0.2 结果是-7.21644966006352E-16。
看来强大的计算机也有弱智的时候

作者: roych 时间: 2021-10-22 16:39
精度问题，无解。如果非要处理，就设置下格式

欢迎光临 Office中国论坛/Access中国论坛 (http://www.office-cn.net/)