现在在爬取一个信息公示页面,领导想吧导航信息放进去,但是这个异步高并发导致导航数据迭代之后上一个导航的页面还没完成请求。使得导航数据和页面数据不匹配。
有没有办法请求列表页之后等所有详情页请求完之后在进行下一个列表页的请求。
scrapy框架能不能阻塞某一个请求,等其他的请求全部结束在执行这个请求呢
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
3条回答 默认 最新
- 忍气吞声埋头苦干 2021-08-25 10:11关注
不会啊,传参+回调函数,不会导致数据流错乱的。
回调函数只是处理上一层调用回调函数的时传入的参数/url本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 求差集那个函数有问题,有无佬可以解决
- ¥15 MATLAB动图问题
- ¥15 【提问】基于Invest的水源涵养
- ¥20 微信网友居然可以通过vx号找到我绑的手机号
- ¥15 寻一个支付宝扫码远程授权登录的软件助手app
- ¥15 解riccati方程组
- ¥15 display:none;样式在嵌套结构中的已设置了display样式的元素上不起作用?
- ¥15 使用rabbitMQ 消息队列作为url源进行多线程爬取时,总有几个url没有处理的问题。
- ¥15 Ubuntu在安装序列比对软件STAR时出现报错如何解决
- ¥50 树莓派安卓APK系统签名