mjchzhl 2022-06-08 23:43 采纳率: 44.4%
浏览 38
已结题

python除法结果与数学上的结果不同,有什么办法解决

问题遇到的现象和发生背景

m = 2524.95/5 计算出来的结果与平时计算的有差别,这个怎么解决,使用的是python3.8

问题相关代码,请勿粘贴截图
运行结果及报错内容

504.98999999999995,但平时数学计算的结果是504.99,存在差别,明明可以除尽的

我的解答思路和尝试过的方法

我想要达到的结果

想要得到数学上的结果504.99

  • 写回答

4条回答 默认 最新

  • 天际的海浪 2022-06-08 23:47
    关注

    浮点数误差问题
    因为浮点数在计算机中实际是以二进制保存的,有些数不精确。
    参考https://blog.csdn.net/maymay_/article/details/112244930

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(3条)

报告相同问题?

问题事件

  • 系统已结题 6月17日
  • 已采纳回答 6月9日
  • 创建了问题 6月8日

悬赏问题

  • ¥15 无线电能传输系统MATLAB仿真问题
  • ¥50 如何用脚本实现输入法的热键设置
  • ¥20 我想使用一些网络协议或者部分协议也行,主要想实现类似于traceroute的一定步长内的路由拓扑功能
  • ¥30 深度学习,前后端连接
  • ¥15 孟德尔随机化结果不一致
  • ¥15 apm2.8飞控罗盘bad health,加速度计校准失败
  • ¥15 求解O-S方程的特征值问题给出边界层布拉休斯平行流的中性曲线
  • ¥15 谁有desed数据集呀
  • ¥20 手写数字识别运行c仿真时,程序报错错误代码sim211-100
  • ¥15 关于#hadoop#的问题