使用的Eclipse软件:
double a = 0.1+0.2;
double b = 0.3;
输出结果:a!=b;
double c = 0.2+0.2;
double d =0.4;
输出结果 a=b;
我手算二进制发现a和b,c和d的二进制都相同,为什么结果不同,求科普。
java中double二进制浮点计算问题
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
4条回答
- threenewbee 2018-08-08 04:22关注
0.1 0.2 0.3 0.4 在2进制中都是无限循环小数。它们都不能精确表示(只有0.5 0.25 0.125 ... 以及它们的组合,比如 0.75 0.3125 ...可以表示为有限小数)
它们进行四则运算的结果,就是近似值,而且会有不同的舍入误差。
所以最后结果不同很正常。
“手算二进制”没用,你怎么舍入的,计算机不一定按照你的方式(好比2/3是0.66666还是0.66667就不好说了)特别是,底层硬件不同,计算精度都不同。比如说,x87的浮点运算,虽然也是64bit的精度,但是内部的寄存器是80bit的,而sse就达不到这个精度,而gpu的fp64,精度就更差了。而jvm用的什么底层硬件指令,这个就无法由你控制了。
结论就是,不要试图用相等和不等比较浮点数,而是用差的绝对值<epslon的方式比较。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 超声波模块测距控制点灯,灯的闪烁很不稳定,经过调试发现测的距离偏大
- ¥15 import arcpy出现importing _arcgisscripting 找不到相关程序
- ¥15 onvif+openssl,vs2022编译openssl64
- ¥15 iOS 自定义输入法-第三方输入法
- ¥15 很想要一个很好的答案或提示
- ¥15 扫描项目中发现AndroidOS.Agent、Android/SmsThief.LI!tr
- ¥15 怀疑手机被监控,请问怎么解决和防止
- ¥15 Qt下使用tcp获取数据的详细操作
- ¥15 idea右下角设置编码是灰色的
- ¥15 全志H618ROM新增分区