2 qq 28195487 qq_28195487 于 2016.02.20 16:04 提问

为什么会溢出呢?求java大神指教

public class Test6{

public static void main(String[]args){

    int size=10;
    double [] myList=new double[size];
    myList[0]=1.2;  
    myList[1]=1.3;  
    myList[2]=1.0;  
    myList[3]=1.0;  
    myList[4]=1.0;  
    myList[5]=1.0;  
    myList[6]=1.0;  
    myList[7]=1.0;  
    myList[8]=1.6;
    myList[9]=1.2;  

    double total=0;
    for(int i=0;i<size;i++){
        total+=myList[i];
    }
    System.out.print("Total is:"+total);
}

}

打印结果是Total is :11.299999999999

为什么打印不出11.3

4个回答

caozhy
caozhy   Ds   Rxr 2016.02.21 07:08
已采纳

double有两个误差,一个是2进制和10进制转换的误差,一个10进制为整的数字,比如1.1,用二进制表示,就是一个无限循环小数。但是计算机的字长不是无限的,所以有误差。
另一个是浮点本身的计算误差一个很大的double值+一个很小的double值,那么很小的值没办法在前一个数字有效尾数上表示,甚至会被忽略,或者精度损失。
由于以上两点,浮点数计算和显示会出现误差。

qq_28195487
qq_28195487 谢谢大神,回答的好详细,我一下子就明白了
接近 2 年之前 回复
wojiushiwo945you
wojiushiwo945you   Ds   Rxr 2016.02.20 16:56

这不是溢出,是double类型精确度问题,如果需要舍入可以选择另一种BigDecimal这种数值类型,它有数值运算,并且可以指定舍入类型。

sddzsddz
sddzsddz   2016.02.20 16:11

BigDecimal 用这个来计算哦
浮点型数据操作是不精确的

luochoudan
luochoudan   Ds   Rxr 2016.02.20 21:08

非溢出,精度问题,楼上已解释。

Csdn user default icon
上传中...
上传图片
插入图片
准确详细的回答,更有利于被提问者采纳,从而获得C币。复制、灌水、广告等回答会被删除,是时候展现真正的技术了!