3mssSti 2022-09-14 10:02 采纳率: 100%
浏览 27
已结题

浮点数赋值和储存的有效数字限制?

img


刚开始 自学中 这里的意思是?
c语言浮点数赋值是可以超过6/7位有效数字
但是在进行运算 浮点数需要储存时 就不能超过6/7位有效数字?

  • 写回答

2条回答 默认 最新

  • 於黾 2022-09-14 10:12
    关注

    你应该退回到float型那一章,看看float型的二进制到底是怎么回事,就能理解它为什么只有6-7位有效数字
    因为计算机里存的是2进制,而我们平时说的有效数字是10进制,所以并不能精确的说它有6位或者7位有效数字,而是在6-7之间
    c语言属于弱类型的编程语言,各种值类型之间可以隐式互相转换
    所以你可以将一个有21位有效数字的数赋值给float型,但是它会自动舍去多余的数据,只能保存4个字节的数据
    运算过程中,各种类型之间会先统一转换成一个较大的类型,再进行计算
    比如int型加上一个double型,那么会先统一都转成double型再做加法
    如果是float型+double型,也会转换成double型,此时计算过程中有可能产生更多的有效数据,但是一旦再赋值给float型的变量,多余的数据又会被舍去
    这就类似一个ushort里只能放0-65535的数据,再多就溢出了,又从0开始了,是一样的

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 9月22日
  • 已采纳回答 9月14日
  • 创建了问题 9月14日

悬赏问题

  • ¥100 任意维数的K均值聚类
  • ¥15 stamps做sbas-insar,时序沉降图怎么画
  • ¥15 unity第一人称射击小游戏,有demo,在原脚本的基础上进行修改以达到要求
  • ¥15 买了个传感器,根据商家发的代码和步骤使用但是代码报错了不会改,有没有人可以看看
  • ¥15 关于#Java#的问题,如何解决?
  • ¥15 加热介质是液体,换热器壳侧导热系数和总的导热系数怎么算
  • ¥100 嵌入式系统基于PIC16F882和热敏电阻的数字温度计
  • ¥15 cmd cl 0x000007b
  • ¥20 BAPI_PR_CHANGE how to add account assignment information for service line
  • ¥500 火焰左右视图、视差(基于双目相机)