流年de约定 2018-08-08 03:35 采纳率: 100%
浏览 1085
已采纳

java中double二进制浮点计算问题

使用的Eclipse软件:
double a = 0.1+0.2;
double b = 0.3;
输出结果:a!=b;
double c = 0.2+0.2;
double d =0.4;
输出结果 a=b;
我手算二进制发现a和b,c和d的二进制都相同,为什么结果不同,求科普。

  • 写回答

4条回答 默认 最新

  • threenewbee 2018-08-08 04:22
    关注

    0.1 0.2 0.3 0.4 在2进制中都是无限循环小数。它们都不能精确表示(只有0.5 0.25 0.125 ... 以及它们的组合,比如 0.75 0.3125 ...可以表示为有限小数)
    它们进行四则运算的结果,就是近似值,而且会有不同的舍入误差。
    所以最后结果不同很正常。
    “手算二进制”没用,你怎么舍入的,计算机不一定按照你的方式(好比2/3是0.66666还是0.66667就不好说了)

    特别是,底层硬件不同,计算精度都不同。比如说,x87的浮点运算,虽然也是64bit的精度,但是内部的寄存器是80bit的,而sse就达不到这个精度,而gpu的fp64,精度就更差了。而jvm用的什么底层硬件指令,这个就无法由你控制了。

    结论就是,不要试图用相等和不等比较浮点数,而是用差的绝对值<epslon的方式比较。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(3条)

报告相同问题?

悬赏问题

  • ¥20 判断两个表是否完全相同
  • ¥20 工控机出现散热器转一下停一下这种情况,是什么原因造成的
  • ¥15 双显卡,启动docker容器报错。
  • ¥15 想编写一个期货跨期套利的程序
  • ¥15 一个线程在sleep的时候set一个信号会起作用吗
  • ¥100 需求高精度PT100设计电路和算法
  • ¥15 单片机配网,继电器开关,广播
  • ¥60 Qcustomplot绘制实时动态曲线
  • ¥20 运用matlab画x-y图
  • ¥15 用idea运行项目,运行tomcat报错:断言失败