如何修复以下代码?
int result(double a , double b, int step)
{
int size = (b-a)/ step
return size ;
}
result(1.1 ,2.0 ,0.1) # 8 (这里应该是9)
但是:
result(1.1 ,2.1, 0.1) # 10 - (答案正确)
求解答为什么会这样? 怎么解决?
如何修复以下代码?
int result(double a , double b, int step)
{
int size = (b-a)/ step
return size ;
}
result(1.1 ,2.0 ,0.1) # 8 (这里应该是9)
但是:
result(1.1 ,2.1, 0.1) # 10 - (答案正确)
求解答为什么会这样? 怎么解决?
应该是精度丢失,只要浮点数分母不能表示为2的k次方,其中k为整数,就不能用2进制有限小数表示。可以看一下这个
https://blog.csdn.net/qq_54121864/article/details/119829934?spm=1001.2014.3001.5502