m0_45149783 2021-10-08 16:58 采纳率: 66.7%
浏览 26
已结题

VS2010环境下算数计算问题

举个例子 dim a as double=750*7591.333333333333 就是小数后面接12个3运算结果自动就取整了5693500 ,正确结果是5643499.99999999。需求是可以根据选择进位或者舍去小数,要是选舍去小数处理后最后结果应该是5643499。怎么先取到真实的运算结果呢。

  • 写回答

2条回答 默认 最新

  • 神仙别闹 2021-10-08 17:20
    关注
    decimal d2 = 750*7591.333333333333M;
    Console.WriteLine(d2);
    

    img

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 10月17日
  • 已采纳回答 10月9日
  • 创建了问题 10月8日