vaassen 2020-09-07 10:20 采纳率: 42.9%
浏览 111
已采纳

Python:如何爬取到该数据?

该网站不能使用urllib因为返回的是text/html,也无法使用bs4解析源代码得到结果,里面大量使用ajax技术进行组合返回数据。
所以我用selenium

browser.get(request_url)
html_text=browser.page_source

爬取如下网页结构:

<span class = "content">
“学号:”
<span>1233415</span>
",详细内容:"
<span class = "morelength">
" "...身高:"
<em class = "oas_impInfo">
167</em>
"cm..." "
</span>

爬出来的内容是

{“学号”:“1233415”, "详细内容:"\"...身高:", "cm...\""}

怎样才能获取的内容呢?

  • 写回答

2条回答 默认 最新

  • threenewbee 2020-09-07 13:20
    关注

    首先 f12 抓包,看看 ajax 的 json 请求的实际地址是什么,然后用
    r = requests.get(request_url)
    obj = r.json()
    print(obj.学号)

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 matlab答疑 关于海上风电的爬坡事件检测
  • ¥88 python部署量化回测异常问题
  • ¥30 酬劳2w元求合作写文章
  • ¥15 在现有系统基础上增加功能
  • ¥15 远程桌面文档内容复制粘贴,格式会变化
  • ¥15 关于#java#的问题:找一份能快速看完mooc视频的代码
  • ¥15 这种微信登录授权 谁可以做啊
  • ¥15 请问我该如何添加自己的数据去运行蚁群算法代码
  • ¥20 用HslCommunication 连接欧姆龙 plc有时会连接失败。报异常为“未知错误”
  • ¥15 网络设备配置与管理这个该怎么弄