1条回答 默认 最新
- geeyeek 2016-02-26 11:33关注
这个本来只是让爬虫知道哪里你不能爬,但是同样也给出了robots.txt所在目录下的目录结构,这些路径大多数都是存放静态资源,谁访问都可以,但是有时候这些目录下可能你是用了各种插件之类的,然后就可能存在可执行文件,各种可执行文件都有可能存在漏洞让人攻击。
很多网站都会会放这个,而且都能访问,你可以去看看百度的,淘宝的,都可以直接看,但其实大多数网站不放也没啥问题。解决 无用评论 打赏 举报
悬赏问题
- ¥15 如何在scanpy上做差异基因和通路富集?
- ¥20 关于#硬件工程#的问题,请各位专家解答!
- ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
- ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错,维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 報錯:Person is not mapped,如何解決?
- ¥15 c++头文件不能识别CDialog