python decimal模块 python里7/3的值为什么末位会是5呢?
浏览量:2014
时间:2021-03-15 21:45:42
作者:admin
python里7/3的值为什么末位会是5呢?
Python中浮点运算的精度是有限的。因为Python遵循IEEE754标准,所以会出现这样的情况
decimal包的引入可以解决这个问题
decimal是MySQL中一种精确的数据类型。
MySQL中的数据类型包括:float、double和其他不精确的数据类型,以及decimal。区别:对于不精确的类型,如float和double,近似值存储在dB中。Decimal以字符串的形式保存精确的原始值。小数点说明:小数点(a,b),其中:a指定小数点左右两侧可存储的最大小数位数,最大精度为38。B指定可存储在小数点右侧的最大小数位数。小数位数必须是0到a之间的值。默认小数位数为0。注:十进制数据类型用于要求非常高精度的计算。这些类型允许您指定值的精度和计数方法作为选择参数。这里的精度是指为该值保存的有效位数的总数,计数方法表示小数点后的位数。
python decimal模块 python中re模块 python中[::-1]
版权声明:本文内容由互联网用户自发贡献,本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。
上一篇
日历打卡签到 自动签到软件