2 kai 12 kai_12 于 2017.09.03 16:46 提问

java中关于浮点数值不适用于禁止出现舍入误差的金融计算中的问题

System.out.println(2.0-1.1);结果输出0.8999999999999999,而不是0.9,书上说,因为浮点数值采用二进制系统表示,所有没法精确到表示分数1/10,但是当我把2.0换成3.0时,输出的结果则是1.9。我有点想不通原因,请大家指教,谢谢!

3个回答

Small_Mouse0
Small_Mouse0   Ds   Rxr 2017.09.03 17:09
已采纳

借用《Effactive Java》这本书中的话,float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而,它们没有提供完全精确的结果,所以不应该被用于要求精确结果的场合。但是,商业计算往往要求结果精确,这时候BigDecimal就派上大用场啦。

参考链接:http://blog.csdn.net/jackiehff/article/details/8582449

【为什么浮点计算不准确】参考这篇博客:http://blog.csdn.net/superherowupan/article/details/51315020
kai_12
kai_12 谢谢
3 个月之前 回复
caozhy
caozhy   Ds   Rxr 2017.09.03 17:08

假设有一种三进制算法,那么1/3就是 0.1 2/3就是0.2 1就是1,对吧。
但是转换成十进制,1/3就是0.3333333333333。没办法精确表示
二进制也是一样,比如十进制的0.1,用二进制就只能表示为一个无限小数。

kai_12
kai_12 非常感谢
3 个月之前 回复
qq_27603059
qq_27603059   2017.09.03 23:49

float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而,它们没有提供完全精确的结果,所以不应该被用于要求精确结果的场合。但是,商业计算往往要求结果精确,这时候BigDecimal就派上大用场啦。

Csdn user default icon
上传中...
上传图片
插入图片