Thecoastlines 2022-02-28 11:11 采纳率: 73.7%
浏览 24
已结题

相关的整型int溢出问题

为什么(3.14+1e20)-1e20=0.0呢,溢出产生了特殊的值+∞

  • 写回答

2条回答 默认 最新

  • _GX_ 2022-02-28 17:25
    关注

    在 IEEE 754标准中,double类型占64位,其中符号占1位,指数占11位,有效精度占52位。52位有效精度最多能精确表示17位10进制有效数字。
    而3.14+1e20精确结果的有效数字是达22位,因此double类型无法精确表示结果中的尾数314,计算时尾数314就被截断了,所以3.14+1e20的结果变成1e20,(3.14+1e20)-1e20的结果变成0.0

    用两个浮点数进行计算时,一定要注意两个数相差不能太大,否则的话就容易出现上面这样截断误差

    https://en.wikipedia.org/wiki/Double-precision_floating-point_format

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 3月9日
  • 已采纳回答 3月1日
  • 创建了问题 2月28日

悬赏问题

  • ¥15 基于卷积神经网络的声纹识别
  • ¥15 Python中的request,如何使用ssr节点,通过代理requests网页。本人在泰国,需要用大陆ip才能玩网页游戏,合法合规。
  • ¥100 为什么这个恒流源电路不能恒流?
  • ¥15 有偿求跨组件数据流路径图
  • ¥15 写一个方法checkPerson,入参实体类Person,出参布尔值
  • ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题,上传的坐标文件里是怎么对无序点进行编号的,以及xy坐标在处理的时候是进行整体模型分片处理的吗
  • ¥15 CSAPPattacklab
  • ¥15 一直显示正在等待HID—ISP
  • ¥15 Python turtle 画图
  • ¥15 stm32开发clion时遇到的编译问题