weixin_42247249 2022-11-23 13:26 采纳率: 0%
浏览 4

float浮点数不精准问题

float浮点数会不精准
2.22 * 2.22会出现4.92840000……1
但是为什么2.22 * 2是4.44？

  • 写回答

2条回答 默认 最新

  • 程序员Forlan 2022-11-23 13:47
    关注

    浮点数在计算机硬件中以二进制的形式存在，但是我们现在看到的都是十进制，而十进制的浮点数不能都完全精确的表示为二进制小数。

    浮点数计算最好不要用float，会有精度问题
    可以使用Decimal()方法

    评论 编辑记录

报告相同问题？

问题事件

  • 创建了问题 11月23日

悬赏问题

  • ¥15 Vue3 大型图片数据拖动排序
  • ¥15 划分vlan后不通了
  • ¥15 GDI处理通道视频时总是带有白色锯齿
  • ¥20 用雷电模拟器安装百达屋apk一直闪退
  • ¥15 算能科技20240506咨询（拒绝大模型回答）
  • ¥15 自适应 AR 模型 参数估计Matlab程序
  • ¥100 角动量包络面如何用MATLAB绘制
  • ¥15 merge函数占用内存过大
  • ¥15 使用EMD去噪处理RML2016数据集时候的原理
  • ¥15 神经网络预测均方误差很小 但是图像上看着差别太大