蔺飞飞 2019-04-08 10:30 采纳率: 100%
浏览 267
已采纳

学习中遇到以下问题,各位大佬麻烦解释一下,谢谢

public static void main(String[] strings){
        float a = 2.0f;
        int b = 0;
        System.out.println(a/b);//Infinity

        double c = 2;
        double d = 1.1f;
        System.out.println(c - d);//0.8999999761581421

        float e = 2;
        float f = 1.1f;
        System.out.println(e - f);//0.9

        float h = 2;
        double i = 1.1f;
        System.out.println(h - i);//0.8999999761581421

        double j = 2;
        float k = 1.1f;
        System.out.println(j - k);//0.8999999761581421

        BigDecimal b1 = new BigDecimal(j);
        BigDecimal b2 = new BigDecimal(k);
        System.out.println(b1);//2
        System.out.println(b2);//1.10000002384185791015625
    }

为什么使用double会损失精度?

  • 写回答

2条回答 默认 最新

  • threenewbee 2019-04-08 10:41
    关注

    double存在2个精度损失的因素,一个是本身存储位数是有限的,因此在做四则运算的时候,精度损失会扩大。
    另一个是double在计算机内用二进制存储,在和10进制转换的时候,也会丢失精度。比如0.1,在10进制里是一个最简单的小数,但是2进制下它就是一个无限循环小数。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 装 pytorch 的时候出了好多问题,遇到这种情况怎么处理?
  • ¥20 IOS游览器某宝手机网页版自动立即购买JavaScript脚本
  • ¥15 手机接入宽带网线,如何释放宽带全部速度
  • ¥30 关于#r语言#的问题:如何对R语言中mfgarch包中构建的garch-midas模型进行样本内长期波动率预测和样本外长期波动率预测
  • ¥15 ETLCloud 处理json多层级问题
  • ¥15 matlab中使用gurobi时报错
  • ¥15 这个主板怎么能扩出一两个sata口
  • ¥15 不是,这到底错哪儿了😭
  • ¥15 2020长安杯与连接网探
  • ¥15 关于#matlab#的问题:在模糊控制器中选出线路信息,在simulink中根据线路信息生成速度时间目标曲线(初速度为20m/s,15秒后减为0的速度时间图像)我想问线路信息是什么