练习爬虫时,爬取今日头条网页代码的时候发现网页的内容集在doc,看到一些以前的回答,他们需要的网页信息都是集中在xhr,以及这个sourcemapping里面的内容通过requests请求是的不到的,这是什么原因

想请教一些练习爬虫时候遇到的问题
- 写回答
- 好问题 0 提建议
- 关注问题
- 邀请回答
-
3条回答 默认 最新
- CSDN专家-showbo 2021-08-14 11:48关注
requests.get得到的是和浏览查看源代码一样的内容,js动态生成的内容requests.get无法获取,需要用Selenium来解析才行。
要么就找到数据接口直接reqeusts.get接口获取数据,头条搜索结果内容是在页面里面的用beautifulsoup解析下就行了。有帮助或启发麻烦点个采纳【本回答右上角】,谢谢~~有其他问题可以继续交流~
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报