phimiler 2021-12-24 10:05 采纳率: 33.3%
浏览 39
已结题

java累加结果与计算器计算出来的结果不一致


sum(1,1000000000L);

static void sum(long begin, long end) {
double sum = 0;
for(long i=begin;i<=end;i++) {
sum += i;
}
System.out.println(sum);
}

正确的累加结果应该是 5.000000005E17
但用此方法算出来的结果是 5.0000000006710899E17

不知道为什么会产生这样的结果

  • 写回答

2条回答 默认 最新

  • 於黾 2021-12-24 10:17
    关注

    sum应该定义成long型,不要用double型
    double精度有限,一部分字节是用来存指数的
    它们各有用处
    double的好处是虽然精度不够,但是能表示的范围大的多
    -=-=
    或者,如果你既需要数据位数,又需要高精度,还需要小数,那可以使用decimal类型来运算。不过运算速度会慢的多。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 1月1日
  • 已采纳回答 12月24日
  • 创建了问题 12月24日

悬赏问题

  • ¥15 对于squad数据集的基于bert模型的微调
  • ¥15 为什么我运行这个网络会出现以下报错?CRNN神经网络
  • ¥20 steam下载游戏占用内存
  • ¥15 CST保存项目时失败
  • ¥15 树莓派5怎么用camera module 3啊
  • ¥20 java在应用程序里获取不到扬声器设备
  • ¥15 echarts动画效果的问题,请帮我添加一个动画。不要机器人回答。
  • ¥15 Attention is all you need 的代码运行
  • ¥15 一个服务器已经有一个系统了如果用usb再装一个系统,原来的系统会被覆盖掉吗
  • ¥15 使用esm_msa1_t12_100M_UR50S蛋白质语言模型进行零样本预测时,终端显示出了sequence handled的进度条,但是并不出结果就自动终止回到命令提示行了是怎么回事: