一个csv大约500M,1000多万行,只有几列,纯数字。
excel工作表只能放104万行,所以要分块写入多个工作表
我用python处理一个大约1小时太慢了。
把csv切割成104万行小块的csv,速度很快1分钟不要。
就是写入excel太慢,有啥好办法吗
谢谢。
图片下面我写的代码
比较笨拙,请指教
一个csv大约500M,1000多万行,只有几列,纯数字。
excel工作表只能放104万行,所以要分块写入多个工作表
我用python处理一个大约1小时太慢了。
把csv切割成104万行小块的csv,速度很快1分钟不要。
就是写入excel太慢,有啥好办法吗
谢谢。
图片下面我写的代码
比较笨拙,请指教
既然已经切成好多文件了,那用线程池啊,把cpu的几个核都充分利用起来,别让它闲着