栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9 不等于 95.1 ?

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9 不等于 95.1 ?

START
  • 番茄又来写点啥了。
  • 最近遇到一个很有趣的bug,在这里记录一下。
业务场景
  • 有两个金额A,B,我都做了保留两位小数的处理
  • 还有一个金额C,等于金额A的金额B的和
  • 突然测试给我讲,番茄,你这金额C没有保留两位小数哦。
  • 查看了相关的bug,得出来的金额C展示的是95.10000000000001

到这里我第一反应,确实金额C没有做保留两位小数的处理

但是在我排查代码逻辑的时候,突然想到,明明金额A和金额B我都做了保留两位小数的处理呀。

随即,在浏览器中打印了一下,发现了一个有趣的事情。

14.2+80.9 = 95.10000000000001

问题分析

看到浏览器这里打印,14.2+80.9 = 95.10000000000001 。我就想到我们熟知的0.1+0.2 = 0.30000000000000004

JS红宝书相关说明呢:
  • 浮点数值的精度最高是17位小数,但是在算数计算式其进度远不如整数。

  • 关于浮点数值计算会产生误差的问题,有一点需要明确。这是基于IEEE754数值的浮点计算的通病。

    JS;JAVA;PYTHON 都会出现:0.1+0.2 = 0.30000000000000004

根本原因是什么呢:

首先,我们要知道,计算机存储数据呢,是以二进制0/1存储的,所以我们把0.1和0.2(十进制的)转换为二进制的:

0.1 => 0.0001 1001 1001 1001…(1001无限循环)
0.2 => 0.0011 0011 0011 0011…(0011无限循环)

但是我们计算机的硬件存储的位数是有限制的不可能无限循环下去,一般双精度浮点数总共占用64位,其中最多53位为有效精度数字(包括符号位),所以存储时只能存储:

0.1=>0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001
0.2=>0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011

所以

0.1+0.2=>

0.0100 1100 1100 1100 1100 1100 11001 100 1100 1100 1100 1100 1100

转换为十进制就是:0.30000000000000004

解决方案

遇到这种情况怎么处理呢。

  1. Math.round() 方法四舍五入或者toFixed() 方法保留指定的位数(对精度要求不高,可用这种方法)

  2. 将小数转为整数再做计算。

    2.1 这里可以配合Math.pow(10, n)放大10的n次方;

    2.2 小数点的位数可以这样获取:

    // num 我们需要计算的数字
    // l 小数点的位数
      try {
        l = num.toString().split('.')[1].length
      } catch (e) {
        l = 0
      }
    
END
  • 问题还是小问题,但是依旧很有意思,老生常谈。
  • 记录当下,ღ( ´・ᴗ・` )
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/332197.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号