栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

加减双打给出奇怪的结果

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

加减双打给出奇怪的结果

在Java中,

double
值是IEEE浮点数。除非它们是2的幂(或2的幂的和,例如1/8
+ 1/4 =
3/8),否则即使它们具有很高的精度,也无法准确表示它们。一些浮点运算会加重这些浮点数中存在的舍入误差。在上述情况下,浮点错误已变得足够重要,可以显示在输出中。

无论是从a解析字符串

JTextField
还是指定
double
文字,数字的来源都无关紧要-问题是浮点表示形式的继承。

解决方法:

  • 如果知道只有这么多小数点,请使用整数算术,然后转换为小数:

    (double) (51 + 1) / 10

    (double) (48 - 4) / 10

  • 使用BigDecimal

  • 如果必须使用

    double
    ,则可以使用Kahan Summation Algorithm减少浮点错误。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/449727.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号