2016 - 2024

感恩一路有你

浮点数的尾数怎么算 计算机浮点数表示范围是怎么算出来的?

浏览量:1573 时间:2021-03-12 09:05:26 作者:admin

计算机浮点数表示范围是怎么算出来的?

浮点数是属于有理数的一个特定子集的数字的数字表示,用于在计算机中逼近任何实数。具体地说,这个实数是由整数或定点数(即尾数)乘以基数的整数幂(在计算机中通常是2)得到的,这类似于基数为10的科学记数法。浮点运算是指涉及浮点数的运算,由于不能精确表示,通常伴随着近似或舍入。浮点数A由两个数字m和E表示:A=m×be。在任何这样的系统中,我们选择基数B(计数系统的基数)和精度P(即存储多少位)。

浮点型数据的取值范围如何算的?

浮点数据的取值范围由变量的索引决定。浮点型变量长度为4字节,32位二进制,取值范围为1.18e-38~3.40e38,即(2*2-126)~(2*2128)。它包括符号位(1位)、索引位(8位)和尾位(23位)。符号位0为正,1为负;索引位有8位数字,可表示0~255或-126~128;由于其取值范围由索引决定,剩余的23个尾数最多可表示223位有效数字,由log计算,log10(2*223)=6.92,故其有效数字为6~7位。浮点数表示法是用科学的计数方法来表示实数的,在需要精确表示时使用。例如,平方根的计算,或超越人类经验的正弦和余弦等,其结果的准确性要求采用浮点型。

浮点数的尾数怎么算 浮点数加减运算的步骤 python浮点数表示方法

版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。