许澜澜 2022-09-27 00:17 采纳率: 100%
浏览 36
已结题

在Python中xpath爬图片src有问题

在Python中xpath爬图片src有问题

在xpath显示正常

img


Python执行就有问题,src前面有 .. 整个也不一样

img


尝试换种方式还是不行,直接报错

img


img

import urllib.request
from lxml import etree

def create_request(page):
    if(page==1):
        url = 'https://sc.chinaz.com/tupian/fengjing.html'
    else:
        url = 'https://sc.chinaz.com/tupian/fengjing_'+ str(page) + '.html'

    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36 Edg/105.0.1343.42'
    }
    request = urllib.request.Request(url=url,headers=headers)
    return request

def get_content(request):
    response = urllib.request.urlopen(request)
    content = response.read().decode('utf-8')
    return content

def down_load(content):
    tree = etree.HTML(content)
    name_list = tree.xpath('//div[@class="container"]//div/img/@alt')
    src_list = tree.xpath('//div[@class="container"]//div/img/@src')
    for i in range(len(name_list)):
        name = name_list[i]
        src = src_list[i]
        url = 'https:' + src
        print(name, url)
        # urllib.request.urlretrieve(url=url,filename='./fengjing/' + name + '.jpg')

if __name__ == '__main__':
    start_page = int(input('请输入起始页码'))
    end_page = int(input('请输入结束页'))

    for page in range(start_page,end_page+1):
        request = create_request(page)
        content = get_content(request)
        down_load(content)

  • 写回答

5条回答 默认 最新

  • 7*24 工作者 2022-09-27 09:34
    关注
    
    
    import urllib.request
    from lxml import etree
    
    
    def create_request(page):
        if (page == 1):
            url = 'https://sc.chinaz.com/tupian/fengjing.html'
        else:
            url = 'https://sc.chinaz.com/tupian/fengjing_' + str(page) + '.html'
        ##请求头中我添加Host和Refer参数,也是防止反爬的一种手段
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36 Edg/105.0.1343.42',
            'Host':'sc.chinaz.com',
            'Refer':'https://sc.chinaz.com/tupian/fengjing.html'
        }
        request = urllib.request.Request(url=url, headers=headers)
        return request
    
    def get_content(request):
        response = urllib.request.urlopen(request)
        content = response.read().decode('utf-8')
        return content
    
    
    def down_load(content):
        tree = etree.HTML(content)
        name_list = tree.xpath('//div[@class="container"]//div[contains(@class,"item")]//img')
        # 我试过用 @src 属性获取值,但是和我想要结果不一样,所以下面就用 @data-original 获取图片的url地址
        for item in name_list:
            img_name = item.xpath( './@alt' )[0]
            img_url ='https:' +  item.xpath( './@data-original' )[0]
            print(img_name,img_url)
            urllib.request.urlretrieve(url=img_url, filename='./fengjing/' + img_name + '.jpg')
    
    
    if __name__ == '__main__':
        start_page = int(input('请输入起始页码'))
        end_page = int(input('请输入结束页'))
    
        for page in range(start_page, end_page + 1):
            request = create_request(page)
            content = get_content(request)
            down_load(content)
    
    
    
    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(4条)

报告相同问题?

问题事件

  • 系统已结题 10月13日
  • 已采纳回答 10月5日
  • 修改了问题 9月27日
  • 创建了问题 9月27日

悬赏问题

  • ¥15 echarts动画效果失效的问题。官网下载的例子。
  • ¥60 许可证msc licensing软件报错显示已有相同版本软件,但是下一步显示无法读取日志目录。
  • ¥15 Attention is all you need 的代码运行
  • ¥15 一个服务器已经有一个系统了如果用usb再装一个系统,原来的系统会被覆盖掉吗
  • ¥15 使用esm_msa1_t12_100M_UR50S蛋白质语言模型进行零样本预测时,终端显示出了sequence handled的进度条,但是并不出结果就自动终止回到命令提示行了是怎么回事:
  • ¥15 前置放大电路与功率放大电路相连放大倍数出现问题
  • ¥30 关于<main>标签页面跳转的问题
  • ¥80 部署运行web自动化项目
  • ¥15 腾讯云如何建立同一个项目中物模型之间的联系
  • ¥30 VMware 云桌面水印如何添加