爬虫jsoup对robots.txt支持吗? 3C

爬虫jsoup对robots.txt支持吗?可以不抓取Disallow规定的目录下的网页吗?

1个回答

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问