maskxxx 2021-10-21 17:15 采纳率: 100%
浏览 69
已结题

python加法运算小数处理问题,小数进位;

我在用pandas 处理数据的时候遇到个奇怪问题。
我原本试用Dataframe的两列做加法运算,然后与其另外一列作比较,再过滤不相等的数据,结果集集很奇怪,明明相等的计算结果,判断结果就是不相等。
后来我进行验证,发现个python加法运算的奇怪问题,例如:
print(17.432+0.909)
输出结果却是18.340999999999998,百思不得其解!求高人指点!

  • 写回答

2条回答 默认 最新

  • jxdq 2021-10-21 17:34
    关注

    原因解释:
    浮点数(小数)在计算机中实际是以二进制存储的,并不精确。
    比如0.1是十进制,转换为二进制后就是一个无限循环的数:
    0.00011001100110011001100110011001100110011001100110011001100
    python是以双精度(64bit)来保存浮点数的,后面多余的会被砍掉,所以在电脑上实际保存的已经小于0.1的值了,后面拿来参与运算就产生了误差。

    解决办法:
    使用decimal库

    from decimal import *

    误差会造成输出一个无限接近于19.8的数字

    In [17]: 6.6*3
    Out[17]: 19.799999999999997

    实际上应该是19.8

    In [18]: Decimal('6.6')*3
    Out[18]: Decimal('19.8')

    当精度提升的同时,也必然牺牲性能。有时候是值得的,比如在财务对数据精度要求比较高的情况下。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 系统已结题 10月29日
  • 已采纳回答 10月21日
  • 创建了问题 10月21日

悬赏问题

  • ¥15 python变量和列表之间的相互影响
  • ¥15 写一个方法checkPerson,入参实体类Person,出参布尔值
  • ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题,上传的坐标文件里是怎么对无序点进行编号的,以及xy坐标在处理的时候是进行整体模型分片处理的吗
  • ¥15 CSAPPattacklab
  • ¥15 一直显示正在等待HID—ISP
  • ¥15 Python turtle 画图
  • ¥15 关于大棚监测的pcb板设计
  • ¥15 stm32开发clion时遇到的编译问题
  • ¥15 lna设计 源简并电感型共源放大器
  • ¥15 如何用Labview在myRIO上做LCD显示?(语言-开发语言)