代码在x86与X64分别编译,float类型运算结果不一致

例如:float a = 0.5739824; b = 0.3452; float c; c = a + b;
32位与64位(a+b)的结果一致,但32位在最后赋值时c的值与64位就不相同。
当c=(double)a+b时,64位的运算结果与32位的运算结果(即c的值)一致,如果不添加double,如何解决?采用vs2008.
ps。数据是随便给的,但确实存在该问题,加减乘除都该情况出现

2个回答

首先根据数学法则,确定正确的值是什么。看你的程序本身有没有错误。误差很大就是程序本身错了。
如果有极微小的误差,这很正常。就算都是x86代码,甚至完全一样的代码,也不能保证每次运算的值都100%一样。所以,不能用=比较浮点数,切记。要用两数相减绝对值小于一个极小的数的方法比较浮点数。

谢谢你的回答,可能问题没有描述清楚,再详细一点吧。
float jaw1 = 6.5f;
float jaw2 = -6.5f;
float jaw3 = 4.699998f;
float jaw4 = -4.699998f;
float y = jaw1 - jaw2 + jaw3 - jaw4;
X64运行结果: jaw1 - jaw2 + jaw3 - jaw4 为 22.399995803833008;赋值给 y 后,y 的值为:22.399994.
X86运行结果: jaw1 - jaw2 + jaw3 - jaw4 为 22.399995803833008;赋值给 y 后,y 的值为:22.399996.
如果在X64环境下代码改为:
float y = (double)jaw1 - jaw2 + jaw3 - jaw4;
那么X64和X86运行后 y 的值都为22.399996。为了与X86结果保持一致,否则经过大量误差累积后,
最终的运算结果可能相差很大。差之毫厘谬以千里!
所以要么修改代码,但工作量庞大;要么设置项目编译选项,但不了解设置什么,也不知道能否解决。
采用的vs2008

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问