简言式 2022-10-07 19:39 采纳率: 72.7%
浏览 25
已结题

为啥浮点数损失的精度会更多呢

在一些算数运算中，为什么对于两个很大的数相减，浮点数损失的精度会更多呢？

  • 写回答

1条回答 默认 最新

  • dceacho 2022-10-07 20:02
    关注

    如果不想了解浮点的编码规则的话可以这样理解
    32位数可以表示0到0xffffffff即0到4,294,967,295, 就是说它能表示出4,294,967,296个数字
    浮点数，假设不编码，保留三位小数，32位也只能表示0到4294967.295, 再大一点的浮点数或者小数位再多一点的浮点数就没法表示出来
    整数相加减只要不溢出是不存在精度损失的，浮点数因为有些数字无法表示出来，所以有损失。
    如果你侧重问更多的精度损失，那是因为浮点数的整数部分位数有限，数字大了的话会丢弃尾数，数字越大丢弃的尾数越多
    例如123456789.1234567
    忘记整数位数了，假设因为限制只能有6个十进制整数，那么会记成123456X10E3,尾数丢了不少,789.1234567全没了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题？

问题事件

  • 系统已结题 10月28日
  • 已采纳回答 10月20日
  • 创建了问题 10月7日

悬赏问题

  • ¥15 WPF 大屏看板表格背景图片设置
  • ¥15 这个主板怎么能扩出一两个sata口
  • ¥15 不是，这到底错哪儿了😭
  • ¥15 2020长安杯与连接网探
  • ¥15 关于#matlab#的问题：在模糊控制器中选出线路信息，在simulink中根据线路信息生成速度时间目标曲线（初速度为20m/s，15秒后减为0的速度时间图像）我想问线路信息是什么
  • ¥15 banner广告展示设置多少时间不怎么会消耗用户价值
  • ¥16 mybatis的代理对象无法通过@Autowired装填
  • ¥15 可见光定位matlab仿真
  • ¥15 arduino 四自由度机械臂
  • ¥15 wordpress 产品图片 GIF 没法显示