Cinnamon rolls 2020-02-10 04:16 采纳率: 0%
浏览 1146
已采纳

求问:ModuleNotFoundError: No module named 'tencent.settings'


import scrapy

from scrapy import signals
from scrapy.xlib.pydispatch import dispatcher
from selenium import webdriver
from tencent.items import TencentItem

class QqnewsSpider(scrapy.Spider):
name = 'qqnews'
allowed_domains = ['news.qq.com']
start_urls = ['https://news.qq.com/']

def __init__(self, **kwargs):
    options = webdriver.ChromeOptions()
    prefs = {"profile.managed_default_content_settings.images“,2)
    options.add_experimental_option("prefs", prefs)
    # options.add_argument("--headless")
    self.browser = webdriver.Chrome(chrome_options=options, executable_path="/Users/bloodhound/WorkProject/Behind/Full-crawl/chromedriver")
    super(QqnewsSpider, self).__init__()
    dispatcher.connect(self.spider_closed, signals.spider_closed)

def spider_closed(self, spider):
    # 当爬虫退出的时候关闭浏览器
    print("spider closed")
    self.browser.quit()
settings.py
BOT_NAME = 'tencent'

SPIDER_MODULES = ['tencent.spiders']
NEWSPIDER_MODULE = 'tencent.spiders'

LOG_LEVEL = 'WARNING'


# Crawl responsibly by identifying yourself (and your website) on the user-agent
#USER_AGENT = 'tencent (+http://www.yourdomain.com)'

# Obey robots.txt rules
ROBOTSTXT_OBEY = False

USER_AGENT = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36'
DOWNLOADER_MIDDLEWARES = {
   'tencent.middlewares.JSPageMiddleware': 1,
}

ITEM_PIPELINES = {
   'tencent.pipelines.TencentPipeline': 300,
}

展开全部

  • 写回答

1条回答 默认 最新

  • zqbnqsdsmd 2020-02-10 14:35
    关注
    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
编辑
预览

报告相同问题?

问题事件

  • 已采纳回答 11月5日

悬赏问题

  • ¥15 PADS Logic 原理图
  • ¥15 PADS Logic 图标
  • ¥15 电脑和power bi环境都是英文如何将日期层次结构转换成英文
  • ¥20 气象站点数据求取中~
  • ¥15 如何获取APP内弹出的网址链接
  • ¥15 wifi 图标不见了 不知道怎么办 上不了网 变成小地球了
手机看
程序员都在用的中文IT技术交流社区

程序员都在用的中文IT技术交流社区

专业的中文 IT 技术社区,与千万技术人共成长

专业的中文 IT 技术社区,与千万技术人共成长

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

客服 返回
顶部