javkhuang 2020-05-19 08:40 采纳率: 0%
浏览 482

float x = 4.0f 和 double y = 4.0 ,为什么y中的值小于x中的值

为什么实际存储在float型变量x中的数据是(小数点保留16位)0.4000000059604645,
double型变量y是0.4000000000000000

  • 写回答

2条回答 默认 最新

  • threenewbee 2020-05-19 09:07
    关注

    因为浮点数使用0.xxxxx x 2的n次方的形式存储
    而0.4是无法用二进制准确表示的,用2进制它是一个无限循环小数。
    double float的精度不同,所以两者结果就不同了。
    好比同样是1/3(在3进制里是0.1),两个精度不同的10进制近似表示,一个0.33一个0.3333,显然就不等了。

    评论

报告相同问题?

悬赏问题

  • ¥15 如何用Labview在myRIO上做LCD显示?(语言-开发语言)
  • ¥15 Vue3地图和异步函数使用
  • ¥15 C++ yoloV5改写遇到的问题
  • ¥20 win11修改中文用户名路径
  • ¥15 win2012磁盘空间不足,c盘正常,d盘无法写入
  • ¥15 用土力学知识进行土坡稳定性分析与挡土墙设计
  • ¥70 PlayWright在Java上连接CDP关联本地Chrome启动失败,貌似是Windows端口转发问题
  • ¥15 帮我写一个c++工程
  • ¥30 Eclipse官网打不开,官网首页进不去,显示无法访问此页面,求解决方法
  • ¥15 关于smbclient 库的使用