锦瑟six 2021-06-22 16:43 采纳率: 50%
浏览 247

远程主机强迫关闭了一个现有的连接

用requests下载网页时,抛出了ConnectionError异常:

raise ConnectionError(err, request=request)
requests.exceptions.ConnectionError: ('Connection aborted.', ConnectionResetError(10054, '远程主机强迫关闭了一个现有的连接。', None, 10054, None))

是什么原因,怎么处理?

# coding=utf-8
import requests, bs4, os, time

headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
           'Accept': 'text/html, application/xhtml+xml, application/xml;q = 0.9, image/webp, image/apng, */*;    q = 0.8, application/signed-exchange;v = b3;q = 0.9',
           'Accept-Encoding': 'gzip, deflate, br'}
res = requests.get('https://www.baidu.com/s?wd=%E6%89%BE%E5%B7%A5%E4%BD%9C', headers=headers)
soup_job = bs4.BeautifulSoup(res.text)
linkList = soup_job.select('a[href]')
    
urlList = []
for link in linkList:
    url = link.get('href')
    if 'http' in url:
        urlList.append(url)

num = 0
for url in urlList:
    linkRes = requests.get(url)
    if linkRes.raise_for_status() == 404:
        print('Bad link!')
        continue
    linkFile = open('F:\\sites\\' + 'html' + str(num) + '.txt', 'wb')
    for chunk in linkRes.iter_content(100000):
        linkFile.write(chunk)
    linkFile.close()
    time.sleep(2)
    num += 1
  • 写回答

1条回答 默认 最新

  • CSDN-Ada助手 CSDN-AI 官方账号 2022-11-07 07:59
    关注
    不知道你这个问题是否已经解决, 如果还没有解决的话:

    如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^
    评论

报告相同问题?

悬赏问题

  • ¥17 pro*C预编译“闪回查询”报错SCN不能识别
  • ¥15 微信会员卡接入微信支付商户号收款
  • ¥15 如何获取烟草零售终端数据
  • ¥15 数学建模招标中位数问题
  • ¥15 phython路径名过长报错 不知道什么问题
  • ¥15 深度学习中模型转换该怎么实现
  • ¥15 HLs设计手写数字识别程序编译通不过
  • ¥15 Stata外部命令安装问题求帮助!
  • ¥15 从键盘随机输入A-H中的一串字符串,用七段数码管方法进行绘制。提交代码及运行截图。
  • ¥15 TYPCE母转母,插入认方向