版本python 2.7
在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29
最后不要用math.floor和math.ceil
请问怎么消除这种误差?
版本python 2.7
在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29
最后不要用math.floor和math.ceil
请问怎么消除这种误差?
1.将你要算的数字转化为int ,计算完,在转换回去,
2.将数字转化为数组存储计算,超大数的计算方法,在转化回来,
3.如果不是要的结果特别精准的话,写个误差函数,也就是将在python中计算 5.8/0.2 = 28.99999999996
电脑自带的计算机中 5.8/0.2=29的误差设定为0.000000001,在这个大小范围内的数字看成相等,取代==操作,(不需要精确结果的情况下)