栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

Python

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Python

你遇到了浮点数的老问题,不是所有的数字都能精确地表示。命令行只是向你显示内存中的完整浮点形式。
对于浮点表示,舍入的版本是相同的数字。由于计算机是二进制的,它们将浮点数存储为整数,然后除以2的幂,因此

13.95
将以类似于
1256504296036838/(2**53)
的方式表示。
双精度数字有53位(16位)的精度,而常规浮点数有24位(8位)的精度。Python中的浮点类型使用双精度存储值。

例如,

125650429603636838/(2**53)
13.949999999999999

234042163/(2**24)
13.949999988079071

a=13.946
print(a)
13.946
print(“%.2f” % a)
13.95
round(a,2)
13.949999999999999
print(“%.2f” % round(a,2))
13.95
print(“{0:.2f}”.format(a))
13.95
print(“{0:.2f}”.format(round(a,2)))
13.95
print(“{0:.15f}”.format(round(a,2)))
13.949999999999999
如果仅排两个小数位(例如,显示货币值),那么你有两个更好的选择:

使用整数并以美分而不是美元存储值,然后除以100转换为美元。
或使用定点数(如小数)。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/370790.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号