3mssSti 2022-09-14 10:02 采纳率: 100%
浏览 27
已结题

浮点数赋值和储存的有效数字限制?

img


刚开始 自学中 这里的意思是?
c语言浮点数赋值是可以超过6/7位有效数字
但是在进行运算 浮点数需要储存时 就不能超过6/7位有效数字?

  • 写回答

2条回答 默认 最新

  • 於黾 2022-09-14 10:12
    关注

    你应该退回到float型那一章,看看float型的二进制到底是怎么回事,就能理解它为什么只有6-7位有效数字
    因为计算机里存的是2进制,而我们平时说的有效数字是10进制,所以并不能精确的说它有6位或者7位有效数字,而是在6-7之间
    c语言属于弱类型的编程语言,各种值类型之间可以隐式互相转换
    所以你可以将一个有21位有效数字的数赋值给float型,但是它会自动舍去多余的数据,只能保存4个字节的数据
    运算过程中,各种类型之间会先统一转换成一个较大的类型,再进行计算
    比如int型加上一个double型,那么会先统一都转成double型再做加法
    如果是float型+double型,也会转换成double型,此时计算过程中有可能产生更多的有效数据,但是一旦再赋值给float型的变量,多余的数据又会被舍去
    这就类似一个ushort里只能放0-65535的数据,再多就溢出了,又从0开始了,是一样的

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 9月22日
  • 已采纳回答 9月14日
  • 创建了问题 9月14日

悬赏问题

  • ¥15 stm32开发clion时遇到的编译问题
  • ¥15 lna设计 源简并电感型共源放大器
  • ¥15 如何用Labview在myRIO上做LCD显示?(语言-开发语言)
  • ¥15 Vue3地图和异步函数使用
  • ¥15 C++ yoloV5改写遇到的问题
  • ¥20 win11修改中文用户名路径
  • ¥15 win2012磁盘空间不足,c盘正常,d盘无法写入
  • ¥15 用土力学知识进行土坡稳定性分析与挡土墙设计
  • ¥70 PlayWright在Java上连接CDP关联本地Chrome启动失败,貌似是Windows端口转发问题
  • ¥15 帮我写一个c++工程