IL Mare 2019-03-21 20:48 采纳率: 100%
浏览 316
已采纳

知道答案应该是27.000000,但是我运行出来的答案是27.000001,请大神帮忙看下是哪里出错了嘛?谢谢。

知道答案应该是27.000000,但是我运行出来的答案是27.000001,请大神帮忙看下是哪里出错了么,万分感谢。图片说明

  • 写回答

2条回答 默认 最新

  • qq_42796098 2019-03-21 21:38
    关注

    float数据在计算机机器内部是2进制数,一般用1个字(4个字节,32位)来表示,
    1位符号位
    8位指数位
    23位“尾数”位
    2^23=8388608,一共7位,这意味着最多能有7位有效数字,但是能绝对能保证的为6位,也即float的精度为6~7位。
    你的最后一位超了,出现误差很正常

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 centos7.9 IPv6端口telnet和端口监控问题
  • ¥120 计算机网络的新校区组网设计
  • ¥20 完全没有学习过GAN,看了CSDN的一篇文章,里面有代码但是完全不知道如何操作
  • ¥15 使用ue5插件narrative时如何切换关卡也保存叙事任务记录
  • ¥20 海浪数据 南海地区海况数据,波浪数据
  • ¥20 软件测试决策法疑问求解答
  • ¥15 win11 23H2删除推荐的项目,支持注册表等
  • ¥15 matlab 用yalmip搭建模型,cplex求解,线性化处理的方法
  • ¥15 qt6.6.3 基于百度云的语音识别 不会改
  • ¥15 关于#目标检测#的问题:大概就是类似后台自动检测某下架商品的库存,在他监测到该商品上架并且可以购买的瞬间点击立即购买下单