ch1310 2022-07-06 10:45 采纳率: 100%
浏览 41
已结题

fortran 中除法的数据精度问题

问题遇到的现象和发生背景

在做一个计算时,累积误差很大,查找原因发现使用fortran 计算除法时,从小数点后6位开始,精度就差别很大了,超出可接收范围了。什么原因??

问题相关代码,请勿粘贴截图

program temp
implicit none
real(kind=4)::i=12000.5
real(kind=4)::j=1000000.0
real(kind=4)::m,n
write(*,'(f12.8)')j/i
end program

运行结果及报错内容

上面的简单的fortran 出来的结果是:83.32986450
用excel或者手机计算的结果是: 83.32986126

我的解答思路和尝试过的方法
我想要达到的结果
  • 写回答

2条回答 默认 最新

  • 地球屋里老师 2022-07-07 16:53
    关注

    单精度数据只有6-7位有效数字,所有语言都这样。双精度15位有效数字。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 7月15日
  • 已采纳回答 7月7日
  • 创建了问题 7月6日

悬赏问题

  • ¥30 vb net 使用 sendMessage 如何输入鼠标坐标
  • ¥200 求能开发抖音自动回复卡片的软件
  • ¥15 关于freesurfer使用freeview可视化的问题
  • ¥100 谁能在荣耀自带系统MagicOS版本下,隐藏手机桌面图标?
  • ¥15 求SC-LIWC词典!
  • ¥20 有关esp8266连接阿里云
  • ¥15 C# 调用Bartender打印机打印
  • ¥15 我这个代码哪里有问题 acm 平台上显示错误 90%,我自己运行好像没什么问题
  • ¥50 C#编程中使用printDocument类实现文字排版打印问题
  • ¥15 找会编程的帅哥美女 可以用MATLAB里面的simulink编程,用Keil5编也可以。