GToneY 2023-12-09 11:42 采纳率: 50%
浏览 10

一样的数通过setprecision后得到的结果却不一样了

为什么 3.14159 * 45 * 45 和 45 * 45 * 3.14159 通过 setprecision(4) 控制小数点位数后结果不一样啊

img

  • 写回答

4条回答 默认 最新

  • threenewbee 2023-12-09 11:52
    关注

    精度误差造成的。
    我举一个例子,假设你有一个精度只有小数点后4位的计算器,那么你计算3.1416 * 1000 / 1000 和 3.1416 / 1000 * 1000 结果一样么?
    显然不一样,前者,第一步得到 3141.6,然后最终得到 3.1416。后者,因为精度只有小数点4位,所以结果就是0.0031,然后最后就是3.1了。

    评论

报告相同问题?

问题事件

  • 创建了问题 12月9日