Android之禅 2014-12-20 00:59 采纳率: 0%
浏览 2295
已结题

为什么同样的运算方式结果不一样,内部怎么处理的。

今天自己实现了一个计算器,也用来系统的计算法,发现有个奇怪的东西。
(1/3)*3 和式子1/3*3
现实中我们认为运算方式是一样的,按照逆波兰式的运算顺序,其实也应该一样。我对于无限循环小数都和计算器一样取小数点 后9位。可是前置算出来0.999999999后者是1。想咨询下后者是不是对内部进行优化特殊处理了。还有类似的情况举个例子介绍下~谢谢大家

  • 写回答

4条回答 默认 最新

  • devmiao 2014-12-20 01:25
    关注

    因为1/3对于C语言、C#和Java来说是整除
    要写 1.0 / 3.0
    或者(double)1/(double)3

    评论

报告相同问题?