ningzip 2022-04-07 23:14 采纳率: 50%
浏览 52
已结题

爬取动态渲染页面（js）的库&加快爬虫速度的方法

除了selenium还有哪些可以爬取动态渲染页面（js）的库？
除了异步、分布式、多线程（协程、进程）还有哪些加快爬虫速度的方法？
学识浅薄，请指点！谢谢 ！

  • 写回答

1条回答 默认 最新

  • Suck.me 2022-04-08 09:27
    关注

    抛弃selenium可以大大加快速度。
    动态渲染的js翻译成py代码，如果有复杂逻辑的代码，人工解这段代码，解不了还有exejs，pydom这些库直接跑
    借助cython可以大大加快你的速度，在py中异步会比多线程好，尽量异步，如果逻辑上要求同步的代码使用异步等待反而慢于不异步
    其它优化具体看你的代码了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题？

问题事件

  • 系统已结题 4月16日
  • 已采纳回答 4月8日
  • 创建了问题 4月7日

悬赏问题

  • ¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场 部分对应不上
  • ¥15 如何在scanpy上做差异基因和通路富集？
  • ¥20 关于#硬件工程#的问题，请各位专家解答！
  • ¥15 关于#matlab#的问题：期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707，使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错，维度不匹配
  • ¥15 Power query添加列问题
  • ¥50 Kubernetes&Fission&Eleasticsearch
  • ¥15 報錯：Person is not mapped，如何解決？