Android之禅 2014-12-20 00:59 采纳率: 0%
浏览 2295
已结题

为什么同样的运算方式结果不一样,内部怎么处理的。

今天自己实现了一个计算器,也用来系统的计算法,发现有个奇怪的东西。
(1/3)*3 和式子1/3*3
现实中我们认为运算方式是一样的,按照逆波兰式的运算顺序,其实也应该一样。我对于无限循环小数都和计算器一样取小数点 后9位。可是前置算出来0.999999999后者是1。想咨询下后者是不是对内部进行优化特殊处理了。还有类似的情况举个例子介绍下~谢谢大家

  • 写回答

4条回答

  • devmiao 2014-12-20 01:25
    关注

    因为1/3对于C语言、C#和Java来说是整除
    要写 1.0 / 3.0
    或者(double)1/(double)3

    评论

报告相同问题?

悬赏问题

  • ¥15 delta降尺度计算的一些细节,有偿
  • ¥15 Arduino红外遥控代码有问题
  • ¥15 数值计算离散正交多项式
  • ¥30 数值计算均差系数编程
  • ¥15 redis-full-check比较 两个集群的数据出错
  • ¥15 Matlab编程问题
  • ¥15 训练的多模态特征融合模型准确度很低怎么办
  • ¥15 kylin启动报错log4j类冲突
  • ¥15 超声波模块测距控制点灯,灯的闪烁很不稳定,经过调试发现测的距离偏大
  • ¥15 import arcpy出现importing _arcgisscripting 找不到相关程序