mjchzhl 2022-06-08 23:43 采纳率: 44.4%
浏览 38
已结题

python除法结果与数学上的结果不同,有什么办法解决

问题遇到的现象和发生背景

m = 2524.95/5 计算出来的结果与平时计算的有差别,这个怎么解决,使用的是python3.8

问题相关代码,请勿粘贴截图
运行结果及报错内容

504.98999999999995,但平时数学计算的结果是504.99,存在差别,明明可以除尽的

我的解答思路和尝试过的方法

我想要达到的结果

想要得到数学上的结果504.99

  • 写回答

4条回答 默认 最新

  • 天际的海浪 2022-06-08 23:47
    关注

    浮点数误差问题
    因为浮点数在计算机中实际是以二进制保存的,有些数不精确。
    参考https://blog.csdn.net/maymay_/article/details/112244930

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(3条)

报告相同问题?

问题事件

  • 系统已结题 6月17日
  • 已采纳回答 6月9日
  • 创建了问题 6月8日

悬赏问题

  • ¥20 基于MSP430f5529的MPU6050驱动,求出欧拉角
  • ¥20 Java-Oj-桌布的计算
  • ¥15 powerbuilder中的datawindow数据整合到新的DataWindow
  • ¥20 有人知道这种图怎么画吗?
  • ¥15 pyqt6如何引用qrc文件加载里面的的资源
  • ¥15 安卓JNI项目使用lua上的问题
  • ¥20 RL+GNN解决人员排班问题时梯度消失
  • ¥60 要数控稳压电源测试数据
  • ¥15 能帮我写下这个编程吗
  • ¥15 ikuai客户端l2tp协议链接报终止15信号和无法将p.p.p6转换为我的l2tp线路