GToneY 2023-12-09 11:42 采纳率: 50%
浏览 8

一样的数通过setprecision后得到的结果却不一样了

为什么 3.14159 * 45 * 45 和 45 * 45 * 3.14159 通过 setprecision(4) 控制小数点位数后结果不一样啊

img

  • 写回答

4条回答 默认 最新

  • threenewbee 2023-12-09 11:52
    关注

    精度误差造成的。
    我举一个例子,假设你有一个精度只有小数点后4位的计算器,那么你计算3.1416 * 1000 / 1000 和 3.1416 / 1000 * 1000 结果一样么?
    显然不一样,前者,第一步得到 3141.6,然后最终得到 3.1416。后者,因为精度只有小数点4位,所以结果就是0.0031,然后最后就是3.1了。

    评论

报告相同问题?

问题事件

  • 创建了问题 12月9日

悬赏问题

  • ¥30 STM32 INMP441无法读取数据
  • ¥100 求汇川机器人IRCB300控制器和示教器同版本升级固件文件升级包
  • ¥15 用visualstudio2022创建vue项目后无法启动
  • ¥15 x趋于0时tanx-sinx极限可以拆开算吗
  • ¥500 把面具戴到人脸上,请大家贡献智慧
  • ¥15 任意一个散点图自己下载其js脚本文件并做成独立的案例页面,不要作在线的,要离线状态。
  • ¥15 各位 帮我看看如何写代码,打出来的图形要和如下图呈现的一样,急
  • ¥30 c#打开word开启修订并实时显示批注
  • ¥15 如何解决ldsc的这条报错/index error
  • ¥15 VS2022+WDK驱动开发环境