c060512 2015-09-22 09:13 采纳率: 0%
浏览 2582

代码在x86与X64分别编译,float类型运算结果不一致

例如:float a = 0.5739824; b = 0.3452; float c; c = a + b;
32位与64位(a+b)的结果一致,但32位在最后赋值时c的值与64位就不相同。
当c=(double)a+b时,64位的运算结果与32位的运算结果(即c的值)一致,如果不添加double,如何解决?采用vs2008.
ps。数据是随便给的,但确实存在该问题,加减乘除都该情况出现

  • 写回答

2条回答 默认 最新

  • threenewbee 2015-09-22 10:17
    关注

    首先根据数学法则,确定正确的值是什么。看你的程序本身有没有错误。误差很大就是程序本身错了。
    如果有极微小的误差,这很正常。就算都是x86代码,甚至完全一样的代码,也不能保证每次运算的值都100%一样。所以,不能用=比较浮点数,切记。要用两数相减绝对值小于一个极小的数的方法比较浮点数。

    评论

报告相同问题?

悬赏问题

  • ¥35 平滑拟合曲线该如何生成
  • ¥100 c语言,请帮蒟蒻写一个题的范例作参考
  • ¥15 名为“Product”的列已属于此 DataTable
  • ¥15 安卓adb backup备份应用数据失败
  • ¥15 eclipse运行项目时遇到的问题
  • ¥15 关于#c##的问题:最近需要用CAT工具Trados进行一些开发
  • ¥15 南大pa1 小游戏没有界面,并且报了如下错误,尝试过换显卡驱动,但是好像不行
  • ¥15 自己瞎改改,结果现在又运行不了了
  • ¥15 链式存储应该如何解决
  • ¥15 没有证书,nginx怎么反向代理到只能接受https的公网网站