maskxxx 2021-10-21 09:15 采纳率: 100%
浏览 76
已结题

python加法运算小数处理问题,小数进位;

我在用pandas 处理数据的时候遇到个奇怪问题。
我原本试用Dataframe的两列做加法运算,然后与其另外一列作比较,再过滤不相等的数据,结果集集很奇怪,明明相等的计算结果,判断结果就是不相等。
后来我进行验证,发现个python加法运算的奇怪问题,例如:
print(17.432+0.909)
输出结果却是18.340999999999998,百思不得其解!求高人指点!

  • 写回答

2条回答 默认 最新

  • jxdq 2021-10-21 09:34
    关注

    原因解释:
    浮点数(小数)在计算机中实际是以二进制存储的,并不精确。
    比如0.1是十进制,转换为二进制后就是一个无限循环的数:
    0.00011001100110011001100110011001100110011001100110011001100
    python是以双精度(64bit)来保存浮点数的,后面多余的会被砍掉,所以在电脑上实际保存的已经小于0.1的值了,后面拿来参与运算就产生了误差。

    解决办法:
    使用decimal库

    from decimal import *

    误差会造成输出一个无限接近于19.8的数字

    In [17]: 6.6*3
    Out[17]: 19.799999999999997

    实际上应该是19.8

    In [18]: Decimal('6.6')*3
    Out[18]: Decimal('19.8')

    当精度提升的同时,也必然牺牲性能。有时候是值得的,比如在财务对数据精度要求比较高的情况下。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)
编辑
预览

报告相同问题?

问题事件

  • 系统已结题 10月28日
  • 已采纳回答 10月21日
  • 创建了问题 10月21日
手机看
程序员都在用的中文IT技术交流社区

程序员都在用的中文IT技术交流社区

专业的中文 IT 技术社区,与千万技术人共成长

专业的中文 IT 技术社区,与千万技术人共成长

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

客服 返回
顶部