ch1310 2022-07-06 10:45 采纳率: 100%
浏览 32
已结题

fortran 中除法的数据精度问题

问题遇到的现象和发生背景

在做一个计算时,累积误差很大,查找原因发现使用fortran 计算除法时,从小数点后6位开始,精度就差别很大了,超出可接收范围了。什么原因??

问题相关代码,请勿粘贴截图

program temp
implicit none
real(kind=4)::i=12000.5
real(kind=4)::j=1000000.0
real(kind=4)::m,n
write(*,'(f12.8)')j/i
end program

运行结果及报错内容

上面的简单的fortran 出来的结果是:83.32986450
用excel或者手机计算的结果是: 83.32986126

我的解答思路和尝试过的方法
我想要达到的结果
  • 写回答

2条回答 默认 最新

  • 地球屋里老师 2022-07-07 16:53
    关注

    单精度数据只有6-7位有效数字,所有语言都这样。双精度15位有效数字。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 7月15日
  • 已采纳回答 7月7日
  • 创建了问题 7月6日

悬赏问题

  • ¥15 企业资源规划ERP沙盘模拟
  • ¥15 前端echarts坐标轴问题
  • ¥15 CMFCPropertyPage
  • ¥15 ad5933的I2C
  • ¥15 请问RTX4060的笔记本电脑可以训练yolov5模型吗?
  • ¥15 数学建模求思路及代码
  • ¥50 silvaco GaN HEMT有栅极场板的击穿电压仿真问题
  • ¥15 谁会P4语言啊,我想请教一下
  • ¥15 这个怎么改成直流激励源给加热电阻提供5a电流呀
  • ¥50 求解vmware的网络模式问题 别拿AI回答