java培训即将结束,现在遇到一个使用java完成数据抓取的项目;
要求,抓取百度搜索的随意信息,解析后存入数据库。
抓取的信息可以是查询的关键字。比如查询“明星”这个关键词,
然后把百度搜索返回页面中的关于明星的页面链接都被抓取,并解析出这个链接的标题,
和时间。然后放到数据库里面去。
因为学得真的是太半桶水了,看了很多的例子,还是一知半解。求大神有空的能指点个一二。
java培训即将结束,现在遇到一个使用java完成数据抓取的项目;
要求,抓取百度搜索的随意信息,解析后存入数据库。
抓取的信息可以是查询的关键字。比如查询“明星”这个关键词,
然后把百度搜索返回页面中的关于明星的页面链接都被抓取,并解析出这个链接的标题,
和时间。然后放到数据库里面去。
因为学得真的是太半桶水了,看了很多的例子,还是一知半解。求大神有空的能指点个一二。
WebRequest抓取网页内容这种基本的操作就不用说了,输入关键词也很简单,你搜索一下这个词,然后把网址复制下来就OK了,因为关键词的参数已经包括在URL中了
我觉得对你来说比较难的地方是在内容解析,有第三方HTML解析库,看看文档就能明白,再有个方法就是写正则表达式匹配出需要的内容,内容取到了写库就不用多说了吧?
思路就是这样了,不要想的太复杂