2016 - 2024

感恩一路有你

js精度丢失解决办法 在js数字类型中浮点数的最高精度多少位小数?

浏览量:2452 时间:2021-03-15 13:02:37 作者:admin

在js数字类型中浮点数的最高精度多少位小数?

十进制由C#中的浮点数据表示。浮点数据有两种:单精度浮点(float)和双精度浮点(double)。不同之处在于取值范围和精度。浮点数据的计算速度远低于整数数据,因此在精度要求较低的情况下可以采用单精度类型,在精度要求较高的情况下可以采用双精度类型。

浮点类型为32位宽,双精度类型为64位宽。

浮点数据的精度如下:

单精度:精度为7位数

双精度:精度为15~16位数

我们需要将要计算的数字乘以10的n次方,将其转换成计算机可以准确识别的整数,然后除以10的n次方。

例如,为了使0.1 0.2等于0.3,我们需要编写如下代码:

formatnum=function(F,digit){

var M=数学.pow(10,数字)

return parseInt(f*m,10)/m

}

var num1=0.1

var num2=0.2

警报(formatNum(num1 num2,1)==0.3)

js精度丢失解决办法 前端面试题2021 完美解决js计算精度问题

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。