为什么 3.14159 * 45 * 45 和 45 * 45 * 3.14159 通过 setprecision(4) 控制小数点位数后结果不一样啊
4条回答 默认 最新
- threenewbee 2023-12-09 11:52关注
精度误差造成的。
我举一个例子,假设你有一个精度只有小数点后4位的计算器,那么你计算3.1416 * 1000 / 1000 和 3.1416 / 1000 * 1000 结果一样么?
显然不一样,前者,第一步得到 3141.6,然后最终得到 3.1416。后者,因为精度只有小数点4位,所以结果就是0.0031,然后最后就是3.1了。解决 无用评论 打赏 举报
悬赏问题
- ¥30 STM32 INMP441无法读取数据
- ¥100 求汇川机器人IRCB300控制器和示教器同版本升级固件文件升级包
- ¥15 用visualstudio2022创建vue项目后无法启动
- ¥15 x趋于0时tanx-sinx极限可以拆开算吗
- ¥500 把面具戴到人脸上,请大家贡献智慧
- ¥15 任意一个散点图自己下载其js脚本文件并做成独立的案例页面,不要作在线的,要离线状态。
- ¥15 各位 帮我看看如何写代码,打出来的图形要和如下图呈现的一样,急
- ¥30 c#打开word开启修订并实时显示批注
- ¥15 如何解决ldsc的这条报错/index error
- ¥15 VS2022+WDK驱动开发环境