vaassen 2020-09-07 10:20 采纳率: 42.9%
浏览 112
已采纳

Python:如何爬取到该数据?

该网站不能使用urllib因为返回的是text/html,也无法使用bs4解析源代码得到结果,里面大量使用ajax技术进行组合返回数据。
所以我用selenium

browser.get(request_url)
html_text=browser.page_source

爬取如下网页结构:

<span class = "content">
“学号:”
<span>1233415</span>
",详细内容:"
<span class = "morelength">
" "...身高:"
<em class = "oas_impInfo">
167</em>
"cm..." "
</span>

爬出来的内容是

{“学号”:“1233415”, "详细内容:"\"...身高:", "cm...\""}

怎样才能获取的内容呢?

  • 写回答

2条回答 默认 最新

  • threenewbee 2020-09-07 13:20
    关注

    首先 f12 抓包,看看 ajax 的 json 请求的实际地址是什么,然后用
    r = requests.get(request_url)
    obj = r.json()
    print(obj.学号)

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥15 如何查看h3c 5130s-28f-si交换机配置 及更改网口
  • ¥15 HFSS仿真喇叭天线阵列方向图出现异常
  • ¥15 blender自发光强度
  • ¥15 FIR滤波器算法设计与实现(利用库函数firdec()
  • ¥15 利用单片机产生正弦信号,来测量差分放大电路放大倍数和共模放大倍数的思路和仿真
  • ¥60 关于mavlink的论文咨询
  • ¥66 定制开发肯德基自动化网站下单软件
  • ¥15 中科院研发的TextMind(文心)
  • ¥20 vscode虚拟环境依赖包未安装
  • ¥15 odoo17关于owl开发js代码问题