第六下载站6down rounddown(7,0)=6,为啥?
浏览量:2482
时间:2021-03-11 16:31:54
作者:admin
rounddown(7,0)=6,为啥?
如图所示,0.65-0.7并不返回-0.05,而是-0.04999999。这是因为计算机在处理十进制计算时产生了不可避免的错误。我们只能加一轮来处理。例如=向下取整(取整(0.65-0.7,2)*20,0)
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。