我想要实现爬虫结束时把redis中剩下没达到输出文件所需数量的数据输出。于是想到了管道里的close_spider。可是不知道该如何下手,在管道文件中创建几个类来分别处理这些爬虫的需求?还是说有什么别的办法。
2条回答 默认 最新
关注 方法一:
在pipeline里添加管道类,在close_spider方法里根据 spider.name 进行判断,进行对应处理
最后在settings中开启管道。方法二:
scrapy用system命令在py文件中启动是以顺序流进行的,可以 os.system("scrapy crawl xxx") ,下一行写上redis处理过程即可方法三:
完全可以通过另一个进程来做这件事,当监控到爬虫进程结束后,然后处理redis数据。下次来社区问啊, 爬虫逆向社区-爬虫逆向论坛-CSDN社区云 CSDN爬虫逆向社区,爬虫逆向论坛,为中国软件开发者打造学习和成长的家园 https://bbs.csdn.net/forums/lx
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 1无用 1
悬赏问题
- ¥15 nginx反向代理获取ip,java获取真实ip
- ¥15 eda:门禁系统设计
- ¥50 如何使用js去调用vscode-js-debugger的方法去调试网页
- ¥15 376.1电表主站通信协议下发指令全被否认问题
- ¥15 物体双站RCS和其组成阵列后的双站RCS关系验证
- ¥15 复杂网络,变滞后传递熵,FDA
- ¥20 csv格式数据集预处理及模型选择
- ¥15 部分网页页面无法显示!
- ¥15 怎样解决power bi 中设置管理聚合,详细信息表和详细信息列显示灰色,而不能选择相应的内容呢?
- ¥15 QTOF MSE数据分析