我现在在做一个搜索引擎爬虫的课题,遇到的问题是不知道怎么获取所有网站的域名。是不是可以通过爬取域名解析根服务器上的内容来获取呢?
如果实在不行,能够获取百度或google上收录的域名也可以,不知道哪位大虾可以指点一二。
如何获取所有的域名?
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
1条回答 默认 最新
- qq_24973589 2021-06-26 22:11关注
1. 生成网站的字符串的域名;
2. 扫描 IP地址,全扫一次;
3. 假如你有浏览器,那么你就可以肆意的收集用户访问的IP地址; 特别是那些DNS相关的存在比如:114等
4. 就是如果你是微软操作系统等,那么你就可以通过这些很方便的在底层收集这些东西;
至于其它的我还想不出来,但我觉得不管怎么收集,在国内肯定不行的,因为国内它把网站给闭关锁国了一部分,当你想要寻找所有网站的存在时,就会受到阻碍;
解决 无用评论 打赏 举报
悬赏问题
- ¥30 这是哪个作者做的宝宝起名网站
- ¥60 版本过低apk如何修改可以兼容新的安卓系统
- ¥25 由IPR导致的DRIVER_POWER_STATE_FAILURE蓝屏
- ¥50 有数据,怎么建立模型求影响全要素生产率的因素
- ¥50 有数据,怎么用matlab求全要素生产率
- ¥15 TI的insta-spin例程
- ¥15 完成下列问题完成下列问题
- ¥15 C#算法问题, 不知道怎么处理这个数据的转换
- ¥15 YoloV5 第三方库的版本对照问题
- ¥15 请完成下列相关问题!