豆浆456 2016-06-28 01:37 采纳率: 0%
浏览 3515
已采纳

关于python的除法精度问题

版本python 2.7
在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29
最后不要用math.floor和math.ceil

请问怎么消除这种误差?

  • 写回答

2条回答 默认 最新

  • 当作看不见 2016-06-28 13:03
    关注

    1.将你要算的数字转化为int ,计算完,在转换回去,
    2.将数字转化为数组存储计算,超大数的计算方法,在转化回来,
    3.如果不是要的结果特别精准的话,写个误差函数,也就是将在python中计算 5.8/0.2 = 28.99999999996
    电脑自带的计算机中 5.8/0.2=29的误差设定为0.000000001,在这个大小范围内的数字看成相等,取代==操作,(不需要精确结果的情况下)

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?