练习爬虫时,爬取今日头条网页代码的时候发现网页的内容集在doc,看到一些以前的回答,他们需要的网页信息都是集中在xhr,以及这个sourcemapping里面的内容通过requests请求是的不到的,这是什么原因
想请教一些练习爬虫时候遇到的问题
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
3条回答 默认 最新
- CSDN专家-showbo 2021-08-14 11:48关注
requests.get得到的是和浏览查看源代码一样的内容,js动态生成的内容requests.get无法获取,需要用Selenium来解析才行。
要么就找到数据接口直接reqeusts.get接口获取数据,头条搜索结果内容是在页面里面的用beautifulsoup解析下就行了。有帮助或启发麻烦点个采纳【本回答右上角】,谢谢~~有其他问题可以继续交流~
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错,维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 有没有帮写代码做实验仿真的
- ¥15 報錯:Person is not mapped,如何解決?
- ¥30 vmware exsi重置后登不上
- ¥15 c++头文件不能识别CDialog
- ¥15 Excel发现不可读取的内容
- ¥15 关于#stm32#的问题:CANOpen的PDO同步传输问题