栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

双原始类型数据的意外行为

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

双原始类型数据的意外行为

尽管您可能听说过舍入错误,但您可能想知道为什么这里有舍入错误。

float a1 = 1.4f;float b1 = 0.5f;double c1 = 1.4;double d1 = 0.5;System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +        new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +        new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));

版画

1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.91.399999999999999911182158029987476766109466552734375 - 0.5 is     0.899999999999999911182158029987476766109466552734375      or as a double is 0.8999999999999999

如您所见,这两个值都

float
不能
double
精确表示,并且在打印float或double时,会发生一些舍入操作以将其隐藏起来。在float的情况下,四舍五入到小数点后7位会产生您期望的数字。对于精度为16位的double值,可以看到舍入误差。

作为@Eric Postpischil,请注意

float
or
double
运算是否具有舍入误差,这完全取决于所使用的值。在这种情况下,即使所表示的值比双精度值离0.9更远,浮点数还是显得更准确。

简而言之:如果您要使用

float
double
应该使用明智的舍入策略。如果无法执行此操作,请使用BigDecimal。

System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));

版画

a1 - b1 is 0.90c1 - d1 is 0.90

当您打印浮点数或双精度数时,它假定最接近的十进制短数值是您真正想要的数值。即在0.5 ulp以内。

例如

double d = 1.4 - 0.5;float f = d;System.out.println("d = " + d + " f = " + f);

版画

d = 0.8999999999999999 f = 0.9


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/469683.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号