哑器 2023-07-07 14:56 采纳率: 72.7%
浏览 31
已结题

fortran77取值规则是什么呢,并不是四舍五入吗?

为什么0.0001÷1655.45得到的值是6.040653e-8,而不是6.040654e-08呢?

img

但是0.0001÷359.99得到的值又变成了2.777855e-7,如果按之前取值规则应当是2.777854e-7才对

img

  • 写回答

3条回答 默认 最新

  • 於黾 2023-07-07 15:07
    关注

    float型一共只有6-7位有效数字
    超过这个数都是无效数字
    你就不要纠结无效数字部分为什么会不对了
    你想计算更精确,那就换成更大的类型

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(2条)

报告相同问题?

问题事件

  • 系统已结题 7月15日
  • 已采纳回答 7月7日
  • 修改了问题 7月7日
  • 修改了问题 7月7日
  • 展开全部