weixin_41290057 2019-03-10 00:16 采纳率: 0%
浏览 368

有关 float的一个问题

请教大神们一个问题 :float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为7999986这样有效位数不是6位了嘛

  • 写回答

1条回答

  • threenewbee 2019-03-10 00:29
    关注

    所谓有效数字的含义是,真实值和表示值的误差在1/2的N次方之内。(这里N=23)换算成10进制,2的10次方近似10的3次方,大致是6位,其实不是刚好6位。

    注意是之内,而不是刚好误差这么多。第23位+1也好,-1也好,对结果的影响肯定在2的23次方-1以内。这就是精度的含义。

    评论

报告相同问题?

悬赏问题

  • ¥15 数学的三元一次方程求解
  • ¥20 iqoo11 如何下载安装工程模式
  • ¥15 本题的答案是不是有问题
  • ¥15 关于#r语言#的问题:(svydesign)为什么在一个大的数据集中抽取了一个小数据集
  • ¥15 C++使用Gunplot
  • ¥15 这个电路是如何实现路灯控制器的,原理是什么,怎么求解灯亮起后熄灭的时间如图?
  • ¥15 matlab数字图像处理频率域滤波
  • ¥15 在abaqus做了二维正交切削模型,给刀具添加了超声振动条件后输出切削力为什么比普通切削增大这么多
  • ¥15 ELGamal和paillier计算效率谁快?
  • ¥15 蓝桥杯单片机第十三届第一场,整点继电器吸合,5s后断开出现了问题