小朱就是牛 2022-08-15 09:11 采纳率: 66.7%
浏览 30
已结题

如何解决python爬虫问题?

用python爬取小说章节时,出现非章节链接,该如何处理?

问题相关代码:

import requests
import parsel
import re

list_url='http://huayu.zongheng.com/showchapter/1222064.html'
response=requests.get(list_url)
#print(response.text)
selectors=parsel.Selector(response.text)
href=selectors.css('div div div div ul li a::attr(href)').getall()
print(href)

运行出现的问题:结果出现了非章节链接,不知道如何处理

我的解答思路和尝试过的方法 :我刚开始打算用for循环和re正则表达式进行排除,还是没找到对应的方法

我想要达到的结果:能够排除非章节链接

  • 写回答

1条回答 默认 最新

  • 梦里逆天 2022-08-15 09:50
    关注

    应该是css选择器里面的规则不够明确,可改成href = selectors.css('div.container div div div ul li a::attr(href)').getall()href = selectors.css('div.volume-list > div > ul > li > a::attr(href)').getall()

    import requests
    import parsel
    
    list_url = 'http://huayu.zongheng.com/showchapter/1222064.html'
    response = requests.get(list_url)
    print(response.text)
    selectors = parsel.Selector(response.text)
    # body > div.container > div:nth-child(2) > div.volume-list > div > ul > li:nth-child(1) > a
    # href = selectors.css('div.container div div div ul li a::attr(href)').getall()
    href = selectors.css('div.volume-list > div > ul > li > a::attr(href)').getall()
    print(href)
    
    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录

报告相同问题?

问题事件

  • 系统已结题 8月23日
  • 已采纳回答 8月15日
  • 创建了问题 8月15日

悬赏问题

  • ¥170 如图所示配置eNSP
  • ¥20 docker里部署springboot项目,访问不到扬声器
  • ¥15 netty整合springboot之后自动重连失效
  • ¥15 悬赏!微信开发者工具报错,求帮改
  • ¥20 wireshark抓不到vlan
  • ¥20 关于#stm32#的问题:需要指导自动酸碱滴定仪的原理图程序代码及仿真
  • ¥20 设计一款异域新娘的视频相亲软件需要哪些技术支持
  • ¥15 stata安慰剂检验作图但是真实值不出现在图上
  • ¥15 c程序不知道为什么得不到结果
  • ¥15 键盘指令混乱情况下的启动盘系统重装