dearNephren 2023-08-21 17:32 采纳率: 100%
浏览 10
已结题

double类型的有效数字是15~16位,书本上说只有前5位是准确的,理由是后面的项没有累加,他的意思是数量不够,所以不准确吗?

double类型的有效数字是15~16位,书本上说只有前5位是准确的,理由是后面的项没有累加,他的意思是数量不够,所以不准确吗?

img

img

  • 写回答

2条回答 默认 最新

  • 梦幻精灵_cq 2023-08-21 18:17
    关注
    • 题目要求|term| ≥ 10-6
      也就是 |term| ≥ 0.000001。pi值虽然输出了8位,但while循环只执行到
      |term| ≥ 10-6,所以后面的是不准确的。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 8月30日
  • 已采纳回答 8月22日
  • 创建了问题 8月21日

悬赏问题

  • ¥20 有偿:在ubuntu上安装arduino以及其常用库文件。
  • ¥15 请问用arcgis处理一些数据和图形,通常里面有一个根据点划泰森多边形的命令,直接划的弊端是只能执行一个完整的边界,但是我们有时候会用到需要在有很多边界内利用点来执行划泰森多边形的命令
  • ¥30 在wave2foam中执行setWaveField时遇到了如下的浮点异常问题,请问该如何解决呢?
  • ¥20 看图片)删除这个自动化录屏脚本就一直报错找不到脚本文件,如何解决?(相关搜索:bat文件)
  • ¥750 关于一道数论方面的问题,求解答!(关键词-数学方法)
  • ¥200 csgo2的viewmatrix值是否还有别的获取方式
  • ¥15 Stable Diffusion,用Ebsynth utility在视频选帧图重绘,第一步报错,蒙版和帧图没法生成,怎么处理啊
  • ¥15 请把下列每一行代码完整地读懂并注释出来
  • ¥15 pycharm运行main文件,显示没有conda环境
  • ¥15 寻找公式识别开发,自动识别整页文档、图像公式的软件