栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

Python 解决浮点数float运算精度问题

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Python 解决浮点数float运算精度问题

 连个float类型的数据进行比较时,会显示对应的十六位结果,而影响精度,所以在进行比较时,导入Decimal进行操作
from decimal import Decimal


Decimal(number1)
Decimal(number2)

案例:

值得注意的是,数据的类型需要为str格式

# 数据1
number1 = 4.2
# 数据2
number2 = 4.3

# 用普通方式进行计算
print(number2-number1)

# 输出结果
# 0.09999999999999964



#==================================

# 采用Decimal
# 数据1
number1 = '4.2'
# 数据2
number2 = '4.3'

print(Decimal(number2) - Decimal(number1))

# 输出结果
# 0.1

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/743705.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号