栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

使用Java失去浮点值精度

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

使用Java失去浮点值精度

我爱这些。但我会使其快速而轻松地进行。

浮点数和小数(也称为浮点数)也不会精确地保留在内存中。但我不想在这里涉及浮点精度与精度问题,我只将您指向一个链接-http: //www.cygnus-
software.com/papers/comparingfloats/comparingfloats.htm

至于您的另一个问题,莱姆说的是这样,因为浮子以科学计数法存储。

floatVal = 6.765432E6 = 6.7 * 10^6MAX_VALUE = 3.4E38 = 3.4 * 10^38

MAX_VALUE比您的浮点数大32个数量级。随时在这里看看http://steve.hollasch.net/cgindex/coding/ieeefloat.html

几个月前,我花了很多时间比较和解决一些FP问题…

比较浮点数时,请尝试使用较小的增量。也许此链接会帮助您http://introcs.cs.princeton.edu/java/91float/



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/449912.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号