设为首页收藏本站Access中国

Office中国论坛/Access中国论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

返回列表 发新帖
查看: 2382|回复: 1
打印 上一主题 下一主题

[函数/公式] 简单的小学生数学题,为什么计算机算不出

[复制链接]
跳转到指定楼层
1#
发表于 2021-10-15 10:18:54 | 只看该作者 回帖奖励 |正序浏览 |阅读模式
excel  单元格输入公式 =2.3-2.1-0.2  结果本应是0, 可计算机给出的结果是-2.77555756156289E-16。调整一下公式  =2.3-0.2-2.1 就能得到正确结果0,真的搞不明白。
类似的还有很多,比如输入公式 =20.3-20.1-0.2 或 =20.3-20.1-0.2 结果都不是0 ,而是很长的科学计数。
这个问题在wps office中同样存在。电脑板wps office 输入上述公式,结果也都不是0。手机板wps office  输入公式=2.4+2.2-4.4-0.2 结果是-7.21644966006352E-16。
看来强大的计算机也有弱智的时候
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 分享分享 分享淘帖 订阅订阅
2#
发表于 2021-10-22 16:39:52 | 只看该作者
精度问题,无解。如果非要处理,就设置下格式
您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|站长邮箱|小黑屋|手机版|Office中国/Access中国 ( 粤ICP备10043721号-1 )  

GMT+8, 2024-11-29 03:11 , Processed in 0.074342 second(s), 26 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表