weixin_49182096 2020-07-31 15:44 采纳率: 0%
浏览 5
已结题

我有两个excel,1个是订单表,大约25万行的样子,一个是产品表,大约2000行;两张表的表头如下图。我想用merge把两个表合并起来,索引是:商品名称;但是每次索引都显示内存不足,请问有什么好的解决方法?

订单表表头,索引值为A列,表格大概26M,25万行-30万行之间;


产品表表头:索引也是A列:



我的代码如下:

import pandas as pd

agent = pd.read_excel('./订单表.xlsx',sheet_name = 0)

cp = pd.read_excel('D:/资料/产品表.xlsx',sheet_name = 0)

agent_cp =pd.merge(agent,cp, on ='商品名称', how = 'left')

agent_cp.to_excel('agent_cp.xlsx')

print('Done')


我试了数据如果少的话不会内存溢出;

笔记本配置:i7 8G内存

  • 写回答

4条回答 默认 最新

  • bosaidongmomo 2020-07-31 15:50
    关注
    openxml(excel2013)的读写框架本来就很占内存.
    内存问题是由于你一下子打开文件读取导致的.
    很显然你可需要写算法去进行合理的合并.
    不妨将数据存入数据库,
    用数据库sql语句去进行合理的合并.
    毕竟Excel的工作不在于数据量
    而在于日常办公
    
    评论

报告相同问题?

悬赏问题

  • ¥15 乘性高斯噪声在深度学习网络中的应用
  • ¥15 运筹学排序问题中的在线排序
  • ¥15 关于docker部署flink集成hadoop的yarn,请教个问题 flink启动yarn-session.sh连不上hadoop,这个整了好几天一直不行,求帮忙看一下怎么解决
  • ¥30 求一段fortran代码用IVF编译运行的结果
  • ¥15 深度学习根据CNN网络模型,搭建BP模型并训练MNIST数据集
  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热(温度不同)的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛
  • ¥30 python代码,帮调试,帮帮忙吧