阿木wh 2022-05-04 23:50 采纳率: 0%
浏览 49
已结题

定位不了需要的属性,用selenium得到的html和网页看的 也不一样

# usr/bin/env python
# -*- coding:utf-8 -*-
#需求爬取该代码中url对应网页中每个黄花菜资料的详情文本和图片

import  requests
from lxml import  etree
import os

if not os.path.exists('./黄花'):
    os.mkdir('./黄花')

url  = 'http://www.qdtcp.com/story/huanghuacai/'
headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/100.0.4896.127 Safari/537.36 Edg/100.0.1185.50'
    }


html = requests.get(url=url,headers=headers).text.encode('utf-8')
tree = etree.HTML(html)

div_list = tree.xpath('//*[@id="wp"]/div[3]/div[1]/div[2]/div[2]/div')
print(div_list)
for div in div_list:
    href = div.xpath('./div[1]/dl/dt/a/@href')[0]
    print(href)

xpath表达式得到的列表是空的
试过用selenium,但是page_source得到的网页 和浏览器上面的不同

蹲一个大佬解惑

```

  • 写回答

1条回答 默认 最新

  • 阿木wh 2022-05-05 00:27
    关注

    刚刚解决了 去掉.encode('utf-8')这个编码就好了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

问题事件

  • 系统已结题 5月13日
  • 已采纳回答 5月5日
  • 创建了问题 5月4日

悬赏问题

  • ¥15 装 pytorch 的时候出了好多问题,遇到这种情况怎么处理?
  • ¥20 IOS游览器某宝手机网页版自动立即购买JavaScript脚本
  • ¥15 手机接入宽带网线,如何释放宽带全部速度
  • ¥30 关于#r语言#的问题:如何对R语言中mfgarch包中构建的garch-midas模型进行样本内长期波动率预测和样本外长期波动率预测
  • ¥15 ETLCloud 处理json多层级问题
  • ¥15 matlab中使用gurobi时报错
  • ¥15 这个主板怎么能扩出一两个sata口
  • ¥15 不是,这到底错哪儿了😭
  • ¥15 2020长安杯与连接网探
  • ¥15 关于#matlab#的问题:在模糊控制器中选出线路信息,在simulink中根据线路信息生成速度时间目标曲线(初速度为20m/s,15秒后减为0的速度时间图像)我想问线路信息是什么