huolin1990 2022-07-28 17:33 采纳率: 50%
浏览 660
已结题

为何同一网址使用Selenium打开和在浏览器中手动输入打开显示的结果不相同

本人在使用python自动爬取智联数据分析师职位的招聘数据时出现一个奇怪的现象,当我将抓取的目标网址手动输入到我自己打开的浏览器中时,所显示的内容和python自动打开的网页的内容完全不一样。与此同时,我打开的浏览器中显示搜索“数据分析师”职位的结果远不止一页,但是用python自动打开的网址显示的搜索结果只有一页。按道理同样的网址不管是使用自动测试软件打开还是手动输入打开,显示的结果应该是一样的,不知道我的问题是什么原因导致的。
使用python打开的网页如下图所示

img


翻转到页面的底端是可以发现搜索的结果只有一页

img


下面的图片是我将同样的网址(也就是输入到selenium中进行抓取数据的网址)输入到浏览器中得到的结果

img


翻转到页面底端可以看到我再浏览器中输入相同的网址得到的搜索结果远不止一页

img


我运行的python代码如下

# 导入webdriver
import selenium
from selenium.webdriver.edge.options import Options
from selenium import webdriver
from selenium.webdriver.edge.service import Service
from selenium.webdriver.common.by import By
edge_options = Options()
#设置不弹出网页
#edge_options.headless = True
#设置不显示不多余的警告信息
edge_options.add_experimental_option("excludeSwitches", ['enable-automation', 'enable-logging'])
s = Service(r'C:\Users\app\Downloads\edgedriver_win64\msedgedriver.exe')
driver = webdriver.Edge(service=s,options=edge_options)
url = 'https://sou.zhaopin.com/?jl=719&kw=%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90%E5%B8%88'

# 向指定url发起请求
driver.get(url)

  • 写回答

2条回答 默认 最新

  • GavinHaydy 2022-07-28 21:28
    关注

    是不是手动打开的页面是登录状态 脚本打开的没登录

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

问题事件

  • 已结题 (查看结题原因) 8月2日
  • 已采纳回答 7月30日
  • 创建了问题 7月28日

悬赏问题

  • ¥15 Lxml库中Xpath查找指定节点
  • ¥15 数据爬取,python
  • ¥15 怎么看 cst中一个面的功率分布图,请说明详细步骤。类似下图
  • ¥15 为什么我的pycharm无法用pyqt6的QtWebEngine
  • ¥15 FOR循环语句显示查询超过300S错误怎么办
  • ¥15 数电设计题 没有设计思路 不知道用什么芯片进行设计 求提供设计思路
  • ¥60 设计一种优化算法结合案例给出智能仓储四向穿梭车的调度计划
  • ¥15 Errno2:No such file or directory,在当前文件确实没有该图片,怎么解决?
  • ¥15 博世摄像头数据存储的问题(iscsi)
  • ¥15 如何实现对学生籍贯信息管理系统的选择排序