zoudick97 2016-03-06 01:42 采纳率: 100%
浏览 6591
已采纳

scrapy 报错:Missing scheme in request url: h

用Python的scrapy写了一个从网页下图片的爬虫,报错:Missing scheme in request url: h
去百度了也google了都说是相对地址不完整要搞成绝对地址,我用urljoin试了没用,直接用完整的图片地址也没有用。
求大神帮助。
[code=python]import scrapy
from imageSpider.items import ImagespiderItem

class image_Spider(scrapy.Spider):
name="imgSpider"
allowed_domains=["image.baidu.com"]
start_urls=["http://image.baidu.com/"]

def parse(self,response):
    oriList=response.xpath('//div[@class="img_pic_wrap_layer"]/img/@src').extract()
    for each in oriList:
        each=response.urljoin(each)
        item=ImagespiderItem()
        item['image_urls']=each
        yield item[/code]

[code=python]# -*- coding: utf-8 -*-

Define here the models for your scraped items

#

See documentation in:

http://doc.scrapy.org/en/latest/topics/items.html

import scrapy

class ImagespiderItem(scrapy.Item):
# define the fields for your item here like:
# name = scrapy.Field()
image_urls=scrapy.Field()
images=scrapy.Field()
[/code]

  • 写回答

1条回答

  • threenewbee 2016-03-06 21:27
    关注
    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

悬赏问题

  • ¥15 基于卷积神经网络的声纹识别
  • ¥15 Python中的request,如何使用ssr节点,通过代理requests网页。本人在泰国,需要用大陆ip才能玩网页游戏,合法合规。
  • ¥100 为什么这个恒流源电路不能恒流?
  • ¥15 有偿求跨组件数据流路径图
  • ¥15 写一个方法checkPerson,入参实体类Person,出参布尔值
  • ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题,上传的坐标文件里是怎么对无序点进行编号的,以及xy坐标在处理的时候是进行整体模型分片处理的吗
  • ¥15 CSAPPattacklab
  • ¥15 一直显示正在等待HID—ISP
  • ¥15 Python turtle 画图
  • ¥15 stm32开发clion时遇到的编译问题