nemowu 2008-06-25 11:06
浏览 242
已采纳

规则引擎做结算出现数据精度的问题

我用规则引擎beanShell做结算,发现一个比较头疼的问题,大家帮忙看看
[code="java"]
Interpreter inter = new Interpreter();
inter.eval("double output1 = 3220.00");

inter.set("output", 0.0);

inter.eval("{output=output1*(1-10/100)*70/100;}");

Object settleOutputObj = parentinter.get("output");
[/code]

问题出在10/100上,10和100都是整形,10/100结果为0。导致计算结果是2254.0而不是期望的2028.6。
只有把10/100改成10.0/100,结果才正常
问题是规则是用户录的,不能更改。而且10/100=0这种现象在javascript、sql等语言中都不存在。
想问问大家有没有什么好方法?谢了先

  • 写回答

2条回答 默认 最新

  • congjl2002 2008-06-25 11:38
    关注

    在运算的时候,将“/”符号替换成 "/(double)"试试

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 企业资源规划ERP沙盘模拟
  • ¥15 前端echarts坐标轴问题
  • ¥15 CMFCPropertyPage
  • ¥15 ad5933的I2C
  • ¥15 请问RTX4060的笔记本电脑可以训练yolov5模型吗?
  • ¥15 数学建模求思路及代码
  • ¥50 silvaco GaN HEMT有栅极场板的击穿电压仿真问题
  • ¥15 谁会P4语言啊,我想请教一下
  • ¥15 这个怎么改成直流激励源给加热电阻提供5a电流呀
  • ¥50 求解vmware的网络模式问题 别拿AI回答