chuan_chuan_ 2018-12-07 03:04 采纳率: 0%
浏览 1881

网络爬虫无法翻页的问题?

最近我在用Python写网络爬虫,尝试爬取印度外交部的网站。爬虫模拟在搜索框内输入关键词,
然后获取搜索结果。有两个问题让我很头疼:一是在点击搜索后会发现网站同时使用了get和post方法向服务器发起请求,但是翻页后只剩post方法,我在代码中只使用post方法,也能成功获取到第一页的内容;二是网络爬虫只能获取第一页和第二页的内容,再往后翻页就是第二页内容的重复,这个问题一直没有解决。
希望有兴趣的朋友能够解答我的疑问,如果需要更多信息也请提出,感谢!

  • 写回答

1条回答 默认 最新

  • lyhsdy 2018-12-08 08:00
    关注

    网站有反爬,使用selenium来模拟打开网站爬取数据
    https://blog.csdn.net/hiyun9/article/details/51328871

    评论

报告相同问题?

悬赏问题

  • ¥15 使用rabbitMQ 消息队列作为url源进行多线程爬取时,总有几个url没有处理的问题。
  • ¥85 maple软件,solve求反函数,出现rootof怎么办?
  • ¥15 求chat4.0解答一道线性规划题,用lingo编程运行,第一问要求写出数学模型和lingo语言编程模型,第二问第三问解答就行,我的ddl要到了谁来求了
  • ¥15 Ubuntu在安装序列比对软件STAR时出现报错如何解决
  • ¥50 树莓派安卓APK系统签名
  • ¥15 maple软件,用solve求反函数出现rootof,怎么办?
  • ¥65 汇编语言除法溢出问题
  • ¥15 Visual Studio问题
  • ¥20 求一个html代码,有偿
  • ¥100 关于使用MATLAB中copularnd函数的问题