ch1310 2022-07-06 10:45 采纳率: 100%
浏览 36
已结题

fortran 中除法的数据精度问题

问题遇到的现象和发生背景

在做一个计算时,累积误差很大,查找原因发现使用fortran 计算除法时,从小数点后6位开始,精度就差别很大了,超出可接收范围了。什么原因??

问题相关代码,请勿粘贴截图

program temp
implicit none
real(kind=4)::i=12000.5
real(kind=4)::j=1000000.0
real(kind=4)::m,n
write(*,'(f12.8)')j/i
end program

运行结果及报错内容

上面的简单的fortran 出来的结果是:83.32986450
用excel或者手机计算的结果是: 83.32986126

我的解答思路和尝试过的方法
我想要达到的结果
  • 写回答

2条回答 默认 最新

  • 地球屋里老师 2022-07-07 16:53
    关注

    单精度数据只有6-7位有效数字,所有语言都这样。双精度15位有效数字。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 7月15日
  • 已采纳回答 7月7日
  • 创建了问题 7月6日

悬赏问题

  • ¥15 metadata提取的PDF元数据,如何转换为一个Excel
  • ¥15 关于arduino编程toCharArray()函数的使用
  • ¥100 vc++混合CEF采用CLR方式编译报错
  • ¥15 coze 的插件输入飞书多维表格 app_token 后一直显示错误,如何解决?
  • ¥15 vite+vue3+plyr播放本地public文件夹下视频无法加载
  • ¥15 c#逐行读取txt文本,但是每一行里面数据之间空格数量不同
  • ¥50 如何openEuler 22.03上安装配置drbd
  • ¥20 ING91680C BLE5.3 芯片怎么实现串口收发数据
  • ¥15 无线连接树莓派,无法执行update,如何解决?(相关搜索:软件下载)
  • ¥15 Windows11, backspace, enter, space键失灵