java爬虫中如何判断两个URL是否属于同一网站

如何判断两个URL是否属于同一网站,爬虫中要剔除站外链接,应该要怎么做,两个url主域名不一样但属于同一网站,应该通过什么进行判断

2个回答

 String url = "http://ask.csdn.net/questions/237143";
Pattern p = Pattern.compile("(?<=http://|\\.)[^.]*?\\.(com|cn|net|org|biz|info|cc|tv)",Pattern.CASE_INSENSITIVE);
Matcher matcher = p.matcher(url);
matcher.find();
System.out.println(matcher.group()); // csdn.net

我就说个建议:正则解析进入主域名 获取网站真实IP 对比两个IP是否相同 关于获取ip我记得有那么个方法 但是忘了具体的实现了 你可以查查

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!