CS小白成长 2020-04-30 16:47 采纳率: 0%
浏览 575

JAVA中float表示的0.99999997f和0.99999998f的底层二进制数为什么不一样?

这几天老是抛出一个问题,就是关于JAVA中float数据类型的精度和存储的。

首先是关于float最常见的1.0f==0.99999999f,返回值为true,这个问题我判断的是0.99999999超出JAVA规定的7~8位有效数字范围了,最后一位9四舍五入,所以0.99999999四舍五入之后为1.0,所以转化成二进制数后和1.0f咦比较,返回值为true,但是四舍五入这个说法,在第二天又说不通了。问题如下

将1.0f转换成二进制

将0.99999999f转换成二进制

将0.9999999f转换成二进制

将0.99999998f转换成二进制

将0.99999997f转换成二进制

将0.999999999f转换成二进制

这是我在JAVA中测试的,分别计算以上数据的二进制数,结果如图:

图片说明
图片说明

我很奇怪,为什么这里0.99999997的二进制竟然和1.0f不一样。不一样就说明之前的四舍五入方法是错误的,我也在网上找了很多,但是都没有找到JAVA在0.99999997这个数据的二进制转换时是怎么处理的?我测试了,只要大于0.99999997就会得到和1.0f一样的结果。我用计算机组成原理的标准来做了之后,得到的数字也不一样。所以希望有知道的大佬,麻烦还请将0.99999997二进制转换的每一步过程详细解析一下!我们共同学习!

  • 写回答

2条回答 默认 最新

  • 鼠晓 博客专家认证 2020-04-30 17:29
    关注

    浮点数之间比较不能用等号,计算机将浮点数从10进制转换成2进制是存在误差的,所以建议用
    f1-f2>0.0000001这种方式去比较好点

    评论

报告相同问题?

悬赏问题

  • ¥15 运筹学排序问题中的在线排序
  • ¥15 关于docker部署flink集成hadoop的yarn,请教个问题 flink启动yarn-session.sh连不上hadoop,这个整了好几天一直不行,求帮忙看一下怎么解决
  • ¥30 求一段fortran代码用IVF编译运行的结果
  • ¥15 深度学习根据CNN网络模型,搭建BP模型并训练MNIST数据集
  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热(温度不同)的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛
  • ¥30 python代码,帮调试,帮帮忙吧
  • ¥15 #MATLAB仿真#车辆换道路径规划