phimiler 2021-12-24 10:05 采纳率: 33.3%
浏览 40
已结题

java累加结果与计算器计算出来的结果不一致


sum(1,1000000000L);

static void sum(long begin, long end) {
double sum = 0;
for(long i=begin;i<=end;i++) {
sum += i;
}
System.out.println(sum);
}

正确的累加结果应该是 5.000000005E17
但用此方法算出来的结果是 5.0000000006710899E17

不知道为什么会产生这样的结果

  • 写回答

2条回答 默认 最新

  • 於黾 2021-12-24 10:17
    关注

    sum应该定义成long型,不要用double型
    double精度有限,一部分字节是用来存指数的
    它们各有用处
    double的好处是虽然精度不够,但是能表示的范围大的多
    -=-=
    或者,如果你既需要数据位数,又需要高精度,还需要小数,那可以使用decimal类型来运算。不过运算速度会慢的多。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 1月1日
  • 已采纳回答 12月24日
  • 创建了问题 12月24日

悬赏问题

  • ¥15 ATAC测序到底用什么peak文件做Diffbind差异分析
  • ¥15 安装ubantu过程中第一个vfat 文件挂载失败
  • ¥20 GZ::CTF如何兼容一些靶机?
  • ¥15 etcd集群部署问题
  • ¥20 谁可以帮我一下问一下各位
  • ¥15 为何重叠加权后love图的SMD与svyCreateTableOne函数绘制基线表的不一致
  • ¥15 QFILHelper怎么恢复全字库,提示进程已完成,只能恢复分区文件
  • ¥150 求 《小魔指》街机游戏机整合模拟软件
  • ¥20 你好,我想问下easyExcel下拉多选,或者复选框可以实现吗
  • ¥20 双非跨考工科哪个专业和方向就业前景好?