2016 - 2024

感恩一路有你

float浮点数为什么会有误差 浮点数最大表示范围?

浏览量:1179 时间:2021-03-16 03:12:34 作者:admin

浮点数最大表示范围?

根据最广泛使用的IEEE754标准,浮点数据类型的长度是32位,其中最高的位是符号位,中间的8位是索引位,最后的23位是尾位。因此,浮动范围(-3.4e38)~(3.4e38)很大,基本上可以满足我们的需要。然而,一个问题是精度。23位尾数的最大范围是2^23−1=8388607,所以浮点数的小数精度只有6-7位,所以使用浮点数时要注意其精度。

类似地,double的尾数从23位扩展到52位,顺序码从8位增加到11位。其示值范围为-1.7e 308~1.7e 308,精度为2^52-1=4503599627370495,为16位,最小精度为15位。

float浮点数为什么会有误差 浮点数有两种表示方法 浮点表示法两部分

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。