我现在在做一个搜索引擎爬虫的课题,遇到的问题是不知道怎么获取所有网站的域名。是不是可以通过爬取域名解析根服务器上的内容来获取呢?
如果实在不行,能够获取百度或google上收录的域名也可以,不知道哪位大虾可以指点一二。
如何获取所有的域名?
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
1条回答
- qq_24973589 2021-06-26 22:11关注
1. 生成网站的字符串的域名;
2. 扫描 IP地址,全扫一次;
3. 假如你有浏览器,那么你就可以肆意的收集用户访问的IP地址; 特别是那些DNS相关的存在比如:114等
4. 就是如果你是微软操作系统等,那么你就可以通过这些很方便的在底层收集这些东西;
至于其它的我还想不出来,但我觉得不管怎么收集,在国内肯定不行的,因为国内它把网站给闭关锁国了一部分,当你想要寻找所有网站的存在时,就会受到阻碍;
解决 无用评论 打赏 举报
悬赏问题
- ¥15 如何在scanpy上做差异基因和通路富集?
- ¥20 关于#硬件工程#的问题,请各位专家解答!
- ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
- ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
- ¥30 截图中的mathematics程序转换成matlab
- ¥15 动力学代码报错,维度不匹配
- ¥15 Power query添加列问题
- ¥50 Kubernetes&Fission&Eleasticsearch
- ¥15 報錯:Person is not mapped,如何解決?
- ¥15 c++头文件不能识别CDialog