soutangquan6309
soutangquan6309
采纳率25%
2018-03-20 06:58 阅读 2.4k

C++ double类型精度问题

5

一组double类型的数字求和为什么结果为nan?
下图所示为部分数字。
图片说明

  • 点赞
  • 写回答
  • 关注问题
  • 收藏
  • 复制链接分享

4条回答 默认 最新

  • lvanjie lvanjie 2018-03-20 07:17

    用 decimal 数据类型

    点赞 3 评论 复制链接分享
  • robotzheng robotzheng 2018-03-20 08:28

    浮点数误差累积传递导致的

    点赞 评论 复制链接分享
  • u012328159 天泽28 2018-03-21 06:06

    应该是浮点数精度问题造成的

    点赞 评论 复制链接分享
  • qq_33826977 清楼小刘 2018-03-22 05:35

    nan说明无限大了,溢出了,楼主是不是计算的记过太大了

    点赞 评论 复制链接分享

相关推荐