小朱就是牛 2022-08-15 09:11 采纳率: 66.7%
浏览 30
已结题

如何解决python爬虫问题?

用python爬取小说章节时,出现非章节链接,该如何处理?

问题相关代码:

import requests
import parsel
import re

list_url='http://huayu.zongheng.com/showchapter/1222064.html'
response=requests.get(list_url)
#print(response.text)
selectors=parsel.Selector(response.text)
href=selectors.css('div div div div ul li a::attr(href)').getall()
print(href)

运行出现的问题:结果出现了非章节链接,不知道如何处理

我的解答思路和尝试过的方法 :我刚开始打算用for循环和re正则表达式进行排除,还是没找到对应的方法

我想要达到的结果:能够排除非章节链接

  • 写回答

1条回答 默认 最新

  • 梦里逆天 2022-08-15 09:50
    关注

    应该是css选择器里面的规则不够明确,可改成href = selectors.css('div.container div div div ul li a::attr(href)').getall()href = selectors.css('div.volume-list > div > ul > li > a::attr(href)').getall()

    import requests
    import parsel
    
    list_url = 'http://huayu.zongheng.com/showchapter/1222064.html'
    response = requests.get(list_url)
    print(response.text)
    selectors = parsel.Selector(response.text)
    # body > div.container > div:nth-child(2) > div.volume-list > div > ul > li:nth-child(1) > a
    # href = selectors.css('div.container div div div ul li a::attr(href)').getall()
    href = selectors.css('div.volume-list > div > ul > li > a::attr(href)').getall()
    print(href)
    
    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录

报告相同问题?

问题事件

  • 系统已结题 8月23日
  • 已采纳回答 8月15日
  • 创建了问题 8月15日

悬赏问题

  • ¥15 带序列特征的多输出预测模型
  • ¥15 VB.NET读取电脑主板序列号
  • ¥15 Python 如何安装 distutils模块
  • ¥15 关于#网络#的问题:网络是从楼上引一根网线下来,接了2台傻瓜交换机,也更换了ip还是不行
  • ¥15 资源泄露软件闪退怎么解决?
  • ¥15 CCF-CSP 2023 第三题 解压缩(50%)
  • ¥30 comfyui openpose报错
  • ¥20 Wpf Datarid单元格闪烁效果的实现
  • ¥15 图像分割、图像边缘提取
  • ¥15 sqlserver执行存储过程报错