栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

浮点数加法-得到奇怪的结果。

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

浮点数加法-得到奇怪的结果。

对于IEEE 754标准,0.1并不是真正的“ 0.1”。

0.1编码为:(

0 01111011 10011001100110011001101
带有浮点数)

  • 0是符号(=正)
  • 01111011指数(= 123-> 123-127 = -4 (127是IEEE 754中的 偏差 ))
  • 10011001100110011001101尾数

若要将尾数转换为十进制数,我们需要1.10011001100110011001101 * 2 ^ -4 (base2)[IEEE
754中1.xxx是隐式的]

= 0.000110011001100110011001101(base2)

= 1/2 ^ 4 + 1/2 ^ 5 + 1/2 ^ 8 + 1/2 ^ 9 + 1/2 ^ 12 + 1/2 ^ 13 + 1/2 ^ 16 + 1/2
^ 17 +1 / 2 ^ 20 + 1/2 ^ 21 + 1/2 ^ 24 + 1/2 ^ 25 + 1/2 ^ 27(以10为基)

= 1/16 + 1/32 + 1/256 + 1/512 + 1/4096 + 1/8192 + 1/65536 + 1/131072
…(base10)

= 0.10000000149011612 (base10)



转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/515571.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号