java 简述浮点运算中溢出处理方法?
浏览量:1846
时间:2021-04-03 14:56:07
作者:admin
简述浮点运算中溢出处理方法?
溢出超出了可以用机器数量表示的数据范围。浮点数的范围由顺序码决定。
当操作指令代码大于最大指令代码时,为溢出;当操作指令代码小于最小负指令代码时,计算机将其处理为0。浮点运算是实数运算,因为计算机只能存储整数,所以实数是除数,所以浮点运算速度很慢,会出现错误。现在大多数机器是32位的,也就是说,64位用来表示整数,所以对于无符号整数是0到2^32-1,对于有符号整数是-2^31到2^31-1。
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。