javkhuang 2020-05-19 08:40 采纳率: 0%
浏览 494

float x = 4.0f 和 double y = 4.0 ,为什么y中的值小于x中的值

为什么实际存储在float型变量x中的数据是(小数点保留16位)0.4000000059604645,
double型变量y是0.4000000000000000

  • 写回答

2条回答 默认 最新

  • threenewbee 2020-05-19 09:07
    关注

    因为浮点数使用0.xxxxx x 2的n次方的形式存储
    而0.4是无法用二进制准确表示的,用2进制它是一个无限循环小数。
    double float的精度不同,所以两者结果就不同了。
    好比同样是1/3(在3进制里是0.1),两个精度不同的10进制近似表示,一个0.33一个0.3333,显然就不等了。

    评论

报告相同问题?

悬赏问题

  • ¥30 STM32 INMP441无法读取数据
  • ¥100 求汇川机器人IRCB300控制器和示教器同版本升级固件文件升级包
  • ¥15 用visualstudio2022创建vue项目后无法启动
  • ¥15 x趋于0时tanx-sinx极限可以拆开算吗
  • ¥500 把面具戴到人脸上,请大家贡献智慧
  • ¥15 任意一个散点图自己下载其js脚本文件并做成独立的案例页面,不要作在线的,要离线状态。
  • ¥15 各位 帮我看看如何写代码,打出来的图形要和如下图呈现的一样,急
  • ¥30 c#打开word开启修订并实时显示批注
  • ¥15 如何解决ldsc的这条报错/index error
  • ¥15 VS2022+WDK驱动开发环境