有效位的23个小数位(22-0)出现在内存格式中,但是总精度实际上是24位,因为我们假设有一个前导1。这等效于
log10(2^24) ≈7.225十进制数字。
双精度浮点数的分数为52位,加上前导1为53。因此,双精度
log10(2^53) ≈ 15.955数可以容纳十进制数字,而不是16。
注意:前导1不是符号位。实际上是,
(-1)^sign * 1.ffffffff * 2^(eeee-constant)但是我们不需要在分数中存储前导1。符号位必须仍然存储
有些数字不能表示为2的幂,例如1/9:
>>>> double d = 0.111111111111111;>>>> System.out.println(d + "n" + d*10);0.1111111111111111.1111111111111098
如果一个财务计划在不进行自我校正的情况下一遍又一遍地执行此计算,最终将出现差异。
>>>> double d = 0.111111111111111;>>>> double sum = 0;>>>> for(int i=0; i<1000000000; i++) {sum+=d;}>>>> System.out.println(sum);111111108.91914201经过10亿次累加,我们缺少$ 2。



