栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

为什么IEEE754单精度浮点数只有7位精度?

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

为什么IEEE754单精度浮点数只有7位精度?

有效位的23个小数位(22-0)出现在内存格式中,但是总精度实际上是24位,因为我们假设有一个前导1。这等效于

log10(2^24) ≈7.225
十进制数字。

双精度浮点数的分数为52位,加上前导1为53。因此,双精度

log10(2^53) ≈ 15.955
数可以容纳十进制数字,而不是16。

注意:前导1不是符号位。实际上是,

(-1)^sign * 1.ffffffff * 2^(eeee-constant)
但是我们不需要在分数中存储前导1。符号位必须仍然存储


有些数字不能表示为2的幂,例如1/9:

>>>> double d = 0.111111111111111;>>>> System.out.println(d + "n" + d*10);0.1111111111111111.1111111111111098

如果一个财务计划在不进行自我校正的情况下一遍又一遍地执行此计算,最终将出现差异。

>>>> double d = 0.111111111111111;>>>> double sum = 0;>>>> for(int i=0; i<1000000000; i++) {sum+=d;}>>>> System.out.println(sum);111111108.91914201

经过10亿次累加,我们缺少$ 2。



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/574317.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号