浮点数乘法运算例题 两个浮点变量相乘结果为什么不精确?
浏览量:1646
时间:2021-03-11 11:39:16
作者:admin
两个浮点变量相乘结果为什么不精确?
没有看代码,乘法和判断效率比较答案。用于乘法(浮点?)每个处理器所需的周期数是不同的。如果没有相应的硬核,速度就很慢,如果有硬核,速度就很快。如果判断影响跳转,就会慢,因为它可能会中断水流
说得彻底这不是说“浮点数一定有错误”,而是说“用二进制浮点数来表示十进制小数在大多数情况下都会有错误。”。比如十进制0.1转换成二进制是一个无限循环浮点数,尾数是无限的,但实际存储只能存储几个位,自然有错误。根据你的说法,十进制也有错误。π不能完全用十进制表示,1/3不能完全用十进制表示
乘法器的积有多少位小数?这不是一个严格的经验,不是一个数学定律。正如你所说的,你可以在小数点后加零而不影响小数点的值,所以如果你想说乘积是7位数和8位数,这似乎不是不可能的。
此经验可以粗略估计计算浮点数需要多少计算资源。浮点数乘积的有效位数急剧上升,需要更多的计算资源。如果用在工程上,精确的产品要比真实的产品精确得多。例如,如果结果只需要3个小数位,我们可以考虑将乘数舍入到2个小数位以简化计算。
这次经历就是这样。不一定是真的。
你猜2.24*18.75的结果有几个小数位?
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。