早起的虫子被鸟吃v 2021-03-14 22:57 采纳率: 0%
浏览 187
已结题

python网络爬虫使用动态代理后翻页爬取没几页就会报错?

1.代理目前可以正常使用,代理的IP每次翻一页后正常消耗一个

2.但是爬上3,4页或者7,8页会报错停止

3.代码及错误示例已发CSDN博客,查看网址:https://blog.csdn.net/weixin_51424938/article/details/114808012?spm=1001.2014.3001.5501

4.已经问过代理公司了,测试过网络没问题,估计是反爬手段或者代码写的有问题,请高手解决

5.经过测试,排除了user-Agent,时间戳,和sleep等待时间的问题,有时一样会报错

  • 写回答

4条回答 默认 最新

  • bj_0163_bj 2021-03-15 19:33
    关注

    你的报错怎么看起来是代理的,你不带代理会有这个错误吗,我测试不挂代理,就是反扒了,爬不到数据,但不会报错,就是空数据

    评论

报告相同问题?

悬赏问题

  • ¥20 BAPI_PR_CHANGE how to add account assignment information for service line
  • ¥500 火焰左右视图、视差(基于双目相机)
  • ¥100 set_link_state
  • ¥15 虚幻5 UE美术毛发渲染
  • ¥15 CVRP 图论 物流运输优化
  • ¥15 Tableau online 嵌入ppt失败
  • ¥100 支付宝网页转账系统不识别账号
  • ¥15 基于单片机的靶位控制系统
  • ¥15 真我手机蓝牙传输进度消息被关闭了,怎么打开?(关键词-消息通知)
  • ¥15 装 pytorch 的时候出了好多问题,遇到这种情况怎么处理?