Python爬虫遇到POST响应connection为close的该怎么解决

Question

在登录帐号后，设置第一次参数能成功，间隔1分钟后执行第二个参数设置就报错了。

Python提示'Connection aborted.', RemoteDisconnected('Remote end closed connection without response'

使用Postman，提示Error: socket hang up，查询后发现第一次成功的响应connection参数为close。

请问这种情况需要怎么处理？

Answer 1

解决方法

（1）随机切换User-Agent：

 user_agent_list = ["Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 10.0; …) Gecko/20100101 Firefox/61.0",
                    "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.186 Safari/537.36",
                    "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.62 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36",
                    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)",
                    "Mozilla/5.0 (Macintosh; U; PPC Mac OS X 10.5; en-US; rv:1.9.2.15) Gecko/20110303 Firefox/3.6.15",
                    ]
                headers['User-Agent'] = random.choice(user_agent_list)

2）访问频率的设置：
time.sleep(6) #测试一下，如果是与访问频率有关可设置时间长一点
（3）使用代理ip:

self.proxies = {
            "http": ip,
            "https":ip,
        }