m0_73089059 2022-09-06 19:19 采纳率: 92.9%
浏览 19
已结题

不太明白什么叫做精度保障的只有十进制的6位数

img

img


这个屏幕中的小数不是没有超过小数点的后六位吗,为什么会有错误

  • 写回答

2条回答 默认 最新

  • 私房菜 移动开发领域优质创作者 2022-09-06 20:37
    关注

    你这书本可以啊,都将 flost 的精度了
    书本那意思是 小数部分给的是 23位,也就是 1/2^23,也就是可以 0.0000001,最小的可以精确到7位小数,那么也就是float 可以精确到小数点后的6个0位,即6位有效小数

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 9月16日
  • 已采纳回答 9月8日
  • 创建了问题 9月6日

悬赏问题

  • ¥20 怎么用dlib库的算法识别小麦病虫害
  • ¥15 华为ensp模拟器中S5700交换机在配置过程中老是反复重启
  • ¥15 java写代码遇到问题,求帮助
  • ¥15 uniapp uview http 如何实现统一的请求异常信息提示?
  • ¥15 有了解d3和topogram.js库的吗?有偿请教
  • ¥100 任意维数的K均值聚类
  • ¥15 stamps做sbas-insar,时序沉降图怎么画
  • ¥15 买了个传感器,根据商家发的代码和步骤使用但是代码报错了不会改,有没有人可以看看
  • ¥15 关于#Java#的问题,如何解决?
  • ¥15 加热介质是液体,换热器壳侧导热系数和总的导热系数怎么算