使用的Eclipse软件:
double a = 0.1+0.2;
double b = 0.3;
输出结果:a!=b;
double c = 0.2+0.2;
double d =0.4;
输出结果 a=b;
我手算二进制发现a和b,c和d的二进制都相同,为什么结果不同,求科普。
java中double二进制浮点计算问题
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
4条回答 默认 最新
- threenewbee 2018-08-08 04:22关注
0.1 0.2 0.3 0.4 在2进制中都是无限循环小数。它们都不能精确表示(只有0.5 0.25 0.125 ... 以及它们的组合,比如 0.75 0.3125 ...可以表示为有限小数)
它们进行四则运算的结果,就是近似值,而且会有不同的舍入误差。
所以最后结果不同很正常。
“手算二进制”没用,你怎么舍入的,计算机不一定按照你的方式(好比2/3是0.66666还是0.66667就不好说了)特别是,底层硬件不同,计算精度都不同。比如说,x87的浮点运算,虽然也是64bit的精度,但是内部的寄存器是80bit的,而sse就达不到这个精度,而gpu的fp64,精度就更差了。而jvm用的什么底层硬件指令,这个就无法由你控制了。
结论就是,不要试图用相等和不等比较浮点数,而是用差的绝对值<epslon的方式比较。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场 部分对应不上
- ¥15 如何在scanpy上做差异基因和通路富集?
- ¥20 关于#硬件工程#的问题,请各位专家解答!
- ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
- ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错,维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 報錯:Person is not mapped,如何解決?