为什么(3.14+1e20)-1e20=0.0呢,溢出产生了特殊的值+∞
2条回答 默认 最新
_GX_ 2022-02-28 17:25关注在 IEEE 754标准中,
double类型占64位,其中符号占1位,指数占11位,有效精度占52位。52位有效精度最多能精确表示17位10进制有效数字。
而3.14+1e20精确结果的有效数字是达22位,因此double类型无法精确表示结果中的尾数314,计算时尾数314就被截断了,所以3.14+1e20的结果变成1e20,(3.14+1e20)-1e20的结果变成0.0用两个浮点数进行计算时,一定要注意两个数相差不能太大,否则的话就容易出现上面这样截断误差
https://en.wikipedia.org/wiki/Double-precision_floating-point_format
本回答被题主选为最佳回答 , 对您是否有帮助呢?评论 打赏 举报解决 1无用