zll962464 2023-03-28 10:02 采纳率: 50%
浏览 77
已结题

python爬取网页信息(主要为期刊影响因子、官网等),已有ISSN进行检索,但爬取过程找不到class该怎么办?

如第一张图所示,已经拥有ISSN,通过搜索框输入后,对结果栏(如第二张图所示)里面的一些指标包括影响因子、官网等进行提取,在通过request提取后,发现找不到这些指标对应的class,代码如第三张图所示,最终想得到的信息如第四张图所示。初学python,问题比较愚蠢还请见谅。

img


img


img


img

  • 写回答

5条回答 默认 最新

  • 阳光宅男xxb 2023-03-28 14:12
    关注

    你需要现在网页html中看下那些指标因子的html结构是什么,才知道怎么提取。你的数据是在一个表格中,你可以先定位到表格的html,然后通过前后html标签来定位到你要解析的数据。代码如下,已成功提取,望采纳!

    import requests
    from bs4 import BeautifulSoup
    import re
    
    req = requests.get(url="https://www.letpub.com.cn/index.php?journalid=662&page=journalapp&view=detail")
    req.encoding = "utf-8"
    html=req.text
    
    soup = BeautifulSoup(html,'lxml')
    #先定位数据所在的table
    table_htmls = soup.find_all('table',attrs={'class':'table_yjfx'})
    
    tr = table_htmls[1].find('td',string=re.compile("E-ISSN"))
    print(tr.parent.next_sibling.contents[1].get_text())
    
    td_2 = table_htmls[1].find('td',string="期刊官方网站")
    if td_2:
        print(td_2.next_sibling.a['href'])
    
    

    最后成功提取你要的数据:

    img


    因为我这里没有登录,所以影响因子那里是图上的文字

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录
查看更多回答(4条)

报告相同问题?

问题事件

  • 系统已结题 4月5日
  • 已采纳回答 3月28日
  • 创建了问题 3月28日

悬赏问题

  • ¥15 如何解决ldsc的这条报错/index error
  • ¥15 VS2022+WDK驱动开发环境
  • ¥30 关于#java#的问题,请各位专家解答!
  • ¥30 vue+element根据数据循环生成多个table,如何实现最后一列 平均分合并
  • ¥20 pcf8563时钟芯片不启振
  • ¥20 pip2.40更新pip2.43时报错
  • ¥15 换yum源但仍然用不了httpd
  • ¥50 C# 使用DEVMOD设置打印机首选项
  • ¥15 麒麟V10 arm安装gdal
  • ¥20 OPENVPN连接问题