IL Mare 2019-03-21 20:48 采纳率: 100%
浏览 316
已采纳

知道答案应该是27.000000,但是我运行出来的答案是27.000001,请大神帮忙看下是哪里出错了嘛?谢谢。

知道答案应该是27.000000,但是我运行出来的答案是27.000001,请大神帮忙看下是哪里出错了么,万分感谢。图片说明

  • 写回答

2条回答 默认 最新

  • qq_42796098 2019-03-21 21:38
    关注

    float数据在计算机机器内部是2进制数,一般用1个字(4个字节,32位)来表示,
    1位符号位
    8位指数位
    23位“尾数”位
    2^23=8388608,一共7位,这意味着最多能有7位有效数字,但是能绝对能保证的为6位,也即float的精度为6~7位。
    你的最后一位超了,出现误差很正常

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥60 版本过低apk如何修改可以兼容新的安卓系统
  • ¥25 由IPR导致的DRIVER_POWER_STATE_FAILURE蓝屏
  • ¥50 有数据,怎么建立模型求影响全要素生产率的因素
  • ¥50 有数据,怎么用matlab求全要素生产率
  • ¥15 TI的insta-spin例程
  • ¥15 完成下列问题完成下列问题
  • ¥15 C#算法问题, 不知道怎么处理这个数据的转换
  • ¥15 YoloV5 第三方库的版本对照问题
  • ¥15 请完成下列相关问题!
  • ¥15 drone 推送镜像时候 purge: true 推送完毕后没有删除对应的镜像,手动拷贝到服务器执行结果正确在样才能让指令自动执行成功删除对应镜像,如何解决?