Huangjiamai 2022-07-07 15:58 采纳率: 33.3%
浏览 32
已结题

python qt数字运算

问题遇到的现象和发生背景

在数字运算测试时,发现几个数字发生错误。

问题相关代码,请勿粘贴截图

将send_data1的数字*0.0001 12和13运算出错


        send_data2 = {}
        send_data2['data'] =int(send_data1['data'])*0.0001
        data2=send_data2['data']
        print(data2)

运行结果及报错内容

img


系统未报错 不知道为什么会出现这种情况

我的解答思路和尝试过的方法
我想要达到的结果
  • 写回答

3条回答 默认 最新

  • 快乐鹦鹉 2022-07-07 16:07
    关注

    这是浮点数的误差造成的,正常现象

    评论 编辑记录
    1人已打赏

报告相同问题?

问题事件

  • 已结题 (查看结题原因) 7月7日
  • 创建了问题 7月7日