一起去彩虹海吧 2022-04-15 15:16 采纳率: 100%
浏览 544
已结题

如果一个网址下不存在robots.txt文件，是不是代表了没有做爬虫限制？求解

如题：如果一个网址下不存在robots.txt文件，是不是代表了没有做爬虫限制？求解

京东的robots.txt文件访问不到，是我输错了吗？
https://www.jd.com/robots.txt

  • 写回答

1条回答 默认 最新

  • 貮叁 2022-04-15 15:55
    关注

    若某网站无robots.txt文件，即默认对于爬虫无限制
    而实际上，robots协议只是一个说明文件，指出需遵守的爬虫协议，并没有实际的限制效果
    如有用请采纳

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题？

问题事件

  • 已结题 （查看结题原因） 4月15日
  • 已采纳回答 4月15日
  • 修改了问题 4月15日
  • 修改了问题 4月15日
  • 展开全部

悬赏问题

  • ¥30 STM32 INMP441无法读取数据
  • ¥100 求汇川机器人IRCB300控制器和示教器同版本升级固件文件升级包
  • ¥15 用visualstudio2022创建vue项目后无法启动
  • ¥15 x趋于0时tanx-sinx极限可以拆开算吗
  • ¥500 把面具戴到人脸上，请大家贡献智慧
  • ¥15 任意一个散点图自己下载其js脚本文件并做成独立的案例页面，不要作在线的，要离线状态。
  • ¥15 各位 帮我看看如何写代码，打出来的图形要和如下图呈现的一样，急
  • ¥30 c#打开word开启修订并实时显示批注
  • ¥15 如何解决ldsc的这条报错/index error
  • ¥15 VS2022+WDK驱动开发环境