豆浆456 2016-06-28 01:37 采纳率: 0%
浏览 3515
已采纳

关于python的除法精度问题

版本python 2.7
在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29
最后不要用math.floor和math.ceil

请问怎么消除这种误差?

  • 写回答

2条回答 默认 最新

  • 当作看不见 2016-06-28 13:03
    关注

    1.将你要算的数字转化为int ,计算完,在转换回去,
    2.将数字转化为数组存储计算,超大数的计算方法,在转化回来,
    3.如果不是要的结果特别精准的话,写个误差函数,也就是将在python中计算 5.8/0.2 = 28.99999999996
    电脑自带的计算机中 5.8/0.2=29的误差设定为0.000000001,在这个大小范围内的数字看成相等,取代==操作,(不需要精确结果的情况下)

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥50 如何用脚本实现输入法的热键设置
  • ¥20 我想使用一些网络协议或者部分协议也行,主要想实现类似于traceroute的一定步长内的路由拓扑功能
  • ¥30 深度学习,前后端连接
  • ¥15 孟德尔随机化结果不一致
  • ¥15 apm2.8飞控罗盘bad health,加速度计校准失败
  • ¥15 求解O-S方程的特征值问题给出边界层布拉休斯平行流的中性曲线
  • ¥15 谁有desed数据集呀
  • ¥20 手写数字识别运行c仿真时,程序报错错误代码sim211-100
  • ¥15 关于#hadoop#的问题
  • ¥15 (标签-Python|关键词-socket)