请教大神们一个问题 :float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为7999986这样有效位数不是6位了嘛
1条回答 默认 最新
- threenewbee 2019-03-10 00:29关注
所谓有效数字的含义是,真实值和表示值的误差在1/2的N次方之内。(这里N=23)换算成10进制,2的10次方近似10的3次方,大致是6位,其实不是刚好6位。
注意是之内,而不是刚好误差这么多。第23位+1也好,-1也好,对结果的影响肯定在2的23次方-1以内。这就是精度的含义。
解决 无用评论 打赏 举报
悬赏问题
- ¥15 java 操作 elasticsearch 8.1 实现 索引的重建
- ¥15 数据可视化Python
- ¥15 要给毕业设计添加扫码登录的功能!!有偿
- ¥15 kafka 分区副本增加会导致消息丢失或者不可用吗?
- ¥15 微信公众号自制会员卡没有收款渠道啊
- ¥15 stable diffusion
- ¥100 Jenkins自动化部署—悬赏100元
- ¥15 关于#python#的问题:求帮写python代码
- ¥20 MATLAB画图图形出现上下震荡的线条
- ¥15 关于#windows#的问题:怎么用WIN 11系统的电脑 克隆WIN NT3.51-4.0系统的硬盘