开发了自己的小工具,依据sci-hub平台批量下载文献,大部分文章都能顺利下载。有个别文章下载异常。程序分两步:1、用DOI号进行一次request请求,得到下载链接dl_url;2、根据下载链接dl_url发送request请求,得到pdf文章的内容content,随后二进制写入文档。
程序下载的结果如图:
为一个空白文件,后缀改为.pdf打开,也是异常。
```python
DOI = '10.1617/s11527-007-9226-0'
mingzi = 'Textile reinforced mortar (TRM) versus FRP as strengthening material of URM walls: out-of-plane cyclic loading'
mulu = r"C:\Users\C\Desktop"
headers = {
'user-agent': '浏览器user-agent',
'cookie':'浏览器cookie'
}
url = 'https://sci-hub.st/'
zong_url = url + DOI
r = requests.get(zong_url, headers=headers)
html = BeautifulSoup(r.text, 'html.parser')
weizhui = html.find('button')['onclick'][14:].replace('\'', '')
if 'sci-hub.st' in weizhui:
dl_url = 'https:' + weizhui
else:
dl_url = 'https://sci-hub.st' + weizhui
#这一步得到的dl_url在浏览器中输入可以正常下载,但是代码中下载异常
#这一步得到的dl_url为:https://moscow.sci-hub.st/1136/953c6f7d5defb1c69b86a69b2f0499d9/papanicolaou2007.pdf?download=true
#存入文档
myfile = requests.get(dl_url, headers=headers)
dizhi = mulu + r"\{}.pdf".format(mingzi)
with open(dizhi, 'wb') as f:
f.write(myfile.content)