js计算浮点数 js浮点数精确计算(加、减、乘、除)?
浏览量:2692
时间:2021-03-14 20:19:38
作者:admin
js浮点数精确计算(加、减、乘、除)?
四舍五入并保留两位数:num=数学圆(Num*100)/100计算机的二进制数实际上是使十进制表达式为0.1时的一个近似数,因此存在这个问题。
javascript避免数字计算精度误差的方法详解?
我们需要计算出数字乘以10的n次方,转换成计算机能准确识别的整数,再除以10的n次方。
例如,为了使0.1 0.2等于0.3,我们需要编写如下代码:
formatnum=function(F,digit){
var M=数学.pow(10,数字)
return parseInt(f*m,10)/m
}
var num1=0.1
var num2=0.2
警报(formatNum(num1 num2,1)==0.3)
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。