栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Java浮点数的计算与比较

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Java浮点数的计算与比较

Java的浮点数计算是存在误差的,所以列出以下注意事项。

1.浮点数计算只有是在两个数之间含有一个浮点数的情况下才能算出。

 

1+7/3=3这个结果显然是错误的。但是为什么呢?公式没错啊!

因为在Java中, 只有是在两个数之间含有一个浮点数的情况下才能算出浮点数。所以有以下两种修改方案。

(1)将整数型3改为浮点型3.0

 

(2)将b改为浮点型double b

 

 

2.那么如何对浮点数进行比较呢?

 (1)

 

为什么a == b是true,而 a == c是false?这就是跟上一点提到的有关,浮点数的计算有误差。你那我们如何判断呢?

(2)

 

 只需增加一句Math.abs(a - b) < 0.000001,什么意思呢就是说取a - b的绝对值,看是否小于一个很小的数,是的即相等。我们来看看c到底等于什么?

 

 这就是浮点数计算的误差。

有问题欢迎指出,在CSDN上学到很多,希望大家一起分享学习经验。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/270099.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号