^ω^阿鲁^ω^
2022-03-25 10:44
采纳率: 100%
浏览 38

如何避免小数点带来的误差

库存明细金额与总合计金额

例如
入库:
a产品 入库 2盒 /6包 = 12包 单价 :10 合计金额:20
b产品 入库 3盒 /15包 = 45包 单价 :20 合计金额:60
总金额:70
用小单位出库 (转化时小数保留4位)就是:
a产品 入库 5包 单价 :1.6667 合计金额:8.3335
b产品 入库 4包 单价 :1.3333 合计金额:5.3332
总金额:13.6667

那么现在a的库存为:7 包 * 单价:1.6667 不等于 20 - 8.3335
7 * 1.6667 = 11.6669
20 - 8.3335 = 11.6665

结果就有了 0.0004 的误差

  • 写回答
  • 好问题 提建议
  • 追加酬金
  • 关注问题
  • 邀请回答

5条回答 默认 最新

相关推荐 更多相似问题