ch1310 2022-07-06 02:45 采纳率: 100%
浏览 42
已结题

fortran 中除法的数据精度问题

问题遇到的现象和发生背景

在做一个计算时,累积误差很大,查找原因发现使用fortran 计算除法时,从小数点后6位开始,精度就差别很大了,超出可接收范围了。什么原因??

问题相关代码,请勿粘贴截图

program temp
implicit none
real(kind=4)::i=12000.5
real(kind=4)::j=1000000.0
real(kind=4)::m,n
write(*,'(f12.8)')j/i
end program

运行结果及报错内容

上面的简单的fortran 出来的结果是:83.32986450
用excel或者手机计算的结果是: 83.32986126

我的解答思路和尝试过的方法
我想要达到的结果
  • 写回答

2条回答 默认 最新

  • 地球屋里老师 2022-07-07 08:53
    关注

    单精度数据只有6-7位有效数字,所有语言都这样。双精度15位有效数字。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)
编辑
预览

报告相同问题?

问题事件

  • 系统已结题 7月14日
  • 已采纳回答 7月7日
  • 创建了问题 7月6日