江小皮不皮 2021-12-24 15:48 采纳率: 25%
浏览 65
已结题

爬虫通过URL访问网页,发现被屏蔽

  • 写回答

1条回答 默认 最新

  • CSDN专家-showbo 2021-12-24 16:00
    关注

    首先确认浏览器能正常访问页码为10以后的,如果浏览器都不能正常访问那应该程序限制了只允许访问最新9页的结果。
    能访问可以通过浏览器开发工具看下10页之后是不是新增了什么请求头,要加上。

    不过话说题主这个2个网站能访问吗?我这里显示504连接源站超时

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论 编辑记录

报告相同问题?

问题事件

  • 系统已结题 1月5日
  • 已采纳回答 12月28日
  • 修改了问题 12月24日
  • 创建了问题 12月24日