豆浆456 2016-06-28 01:37 采纳率: 0%
浏览 3515
已采纳

关于python的除法精度问题

版本python 2.7
在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29
最后不要用math.floor和math.ceil

请问怎么消除这种误差?

  • 写回答

2条回答 默认 最新

  • 当作看不见 2016-06-28 13:03
    关注

    1.将你要算的数字转化为int ,计算完,在转换回去,
    2.将数字转化为数组存储计算,超大数的计算方法,在转化回来,
    3.如果不是要的结果特别精准的话,写个误差函数,也就是将在python中计算 5.8/0.2 = 28.99999999996
    电脑自带的计算机中 5.8/0.2=29的误差设定为0.000000001,在这个大小范围内的数字看成相等,取代==操作,(不需要精确结果的情况下)

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥20 有关区间dp的问题求解
  • ¥15 多电路系统共用电源的串扰问题
  • ¥15 slam rangenet++配置
  • ¥15 有没有研究水声通信方面的帮我改俩matlab代码
  • ¥15 对于相关问题的求解与代码
  • ¥15 ubuntu子系统密码忘记
  • ¥15 信号傅里叶变换在matlab上遇到的小问题请求帮助
  • ¥15 保护模式-系统加载-段寄存器
  • ¥15 电脑桌面设定一个区域禁止鼠标操作
  • ¥15 求NPF226060磁芯的详细资料