计算机存储-有关 float的一个问题——CSDN问答频道

有关 float的一个问题: 请教大神们一个问题：float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为7999986这样有效位数不是6位了嘛; 编辑于：2019.03.10 09:14 发布于：2019.03.10 00:16

| 评论0 | 收藏 | 浏览264 |

0

: weixin_41290057

声望： 0

1个回答

按赞数排序

所谓有效数字的含义是，真实值和表示值的误差在1/2的N次方之内。（这里N=23）换算成10进制，2的10次方近似10的3次方，大致是6位，其实不是刚好6位。

注意是之内，而不是刚好误差这么多。第23位+1也好，-1也好，对结果的影响肯定在2的23次方-1以内。这就是精度的含义。

发布于：2019.03.10 00:29

评论 0 |

0

: 贵阳老马马善福专业维修游泳池堵漏防水工程

声望： 342330

: 插入链接

本地上传网络图片

上传中...

浏览

上传图片

插入图片

立即提问

相似问题

2: Java 如何将一个32位的float 拆成两个16位的short 不损失精度

3: Java中整形向浮点类型强制转换精度丢失问题

7: javascript里怎么将string转换为float，在线急等，马上采纳！

1: float.h中关于浮点宏的一个问题

3: python 的 object of type 'float' has no len()？

3: 一个float类型的数据怎样保留四位小数

1: double与float的区别....

1: 关于python的could not convert string to float的问题。

1: gcc内嵌汇编，如何将unsigned char 类型数据转为float 类型？

1: c语言中float到double形，是准确转换的吗？

1: 怎么在建立类时，将一个实参从int转为float？

2: CUDA中使用VisualProfiler进行优化遇到这样一个问题，该怎么解决？

2: float小数怎么精确到6个数字，这个问题的算法？

1: QT中怎么使用正则表达式来表示float类型

3: unity shader 向量乘法问题

3: 关于float类型在计算机中的二进制表示的疑问

1: 简单问题求解答：c语言梯形法求定积分

4: CSS float 的疑问 : 当给两个div都设置浮动之后,为什么它们会在同一行显示?

0: 在styled-component中使用&.class名{ float：left} 为什么浮动不生效？

2: 在不使用position 和float的情况下怎么实现？