NIEZHAOYI
Nieeee
2016-10-28 16:45

浮点数误差要怎样量化?浮点数陷阱要怎样解决?

  • c
  • 进制转化
  • 浮点数误差

#include

int main()

{double i;
for(i=0;i!=10;i+=0.1)
printf("%.1lf\n",i);

return 0;
}
这个问题因为浮点数误差无限循环,浮点数误差有量化标准吗?比如说这题误差在0.01以内 不运行程序怎么得到这个结论呢?如果继续使用浮点数计数,可以使用哪些方法呢?(除去用fabs(i-10)>0.01作为判断这一种)

  • 点赞
  • 回答
  • 收藏
  • 复制链接分享

4条回答

为你推荐