晨晨05 2017-08-17 00:21 采纳率: 0%
浏览 1323

在64位系统下 64位vs 以及64位QT做了一个实验

QString s = "2.5";
float f = s.toFloat();
f += 0.1;

在其中一个vs程序中,f = 2.50000000...
f+=0.1 得2.59999...
而单独拿出来实验一下结果却是2.6,无论在qt还是在vs下都是2.6这是怎么回事?

  • 写回答

1条回答 默认 最新

  • threenewbee 2017-08-17 00:31
    关注

    浮点数的精度和进制转换误差受到系统环境和编译器的影响,尾数上存在差异很正常

    评论

报告相同问题?

悬赏问题

  • ¥15 DIFY API Endpoint 问题。
  • ¥20 sub地址DHCP问题
  • ¥15 delta降尺度计算的一些细节,有偿
  • ¥15 Arduino红外遥控代码有问题
  • ¥15 数值计算离散正交多项式
  • ¥30 数值计算均差系数编程
  • ¥15 redis-full-check比较 两个集群的数据出错
  • ¥15 Matlab编程问题
  • ¥15 训练的多模态特征融合模型准确度很低怎么办
  • ¥15 kylin启动报错log4j类冲突