Java网络爬虫的实现

http://developer.51cto.com/art/201103/248141.htm

记得在刚找工作时,隔壁的一位同学在面试时豪言壮语曾实现过网络爬虫,当时的景仰之情犹如滔滔江水连绵不绝。后来,在做图片搜索时,需要大量的测试图片,因此萌生了从Amazon中爬取图书封面图片的想法,从网上也吸取了一些前人的经验,实现了一个简单但足够用的爬虫系统。

网络爬虫是一个自动提取网页的程序,它为搜索引擎从万维网上下载网页,是搜索引擎的重要组成,其基本架构如下图所示:

传统爬虫从一个或若干初始网页的URL开始,获得初始网页上的URL,在抓取网页的过程中,不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。对于垂直搜索来说,聚焦爬虫,即有针对性地爬取特定主题网页的爬虫,更为适合。

本文爬虫程序的核心代码如下:

Java代码

  1. publicvoid crawl() throws Throwable {     
  2. while (continueCrawling()) {     
  3.         CrawlerUrl url = getNextUrl(); //获取待爬取队列中的下一个URL   
  4. if (url != null) {     
  5.             printCrawlInfo();      
  6.             String content = getContent(url); //获取URL的文本信息   
  7. //聚焦爬虫只爬取与主题内容相关的网页,这里采用正则匹配简单处理   
  8. if (isContentRelevant(content, this.regexpSearchPattern)) {     
  9.                 saveContent(url, content); //保存网页至本地   
  10. //获取网页内容中的链接,并放入待爬取队列中   
  11.                 Collection urlStrings = extractUrls(content, url);     
  12.                 addUrlsToUrlQueue(url, urlStrings);     
  13.             } else {     
  14.                 System.out.println(url + " is not relevant ignoring ...");     
  15.             }     
  16. //延时防止被对方屏蔽   
  17.             Thread.sleep(this.delayBetweenUrls);     
  18.         }     
  19.     }     
  20.     closeOutputStream();     
  21. }    

整个函数由getNextUrl、getContent、isContentRelevant、extractUrls、addUrlsToUrlQueue等几个核心方法组成,下面将一一介绍。先看getNextUrl:

Java代码

复制代码

  1. private CrawlerUrl getNextUrl() throws Throwable {     
  2.     CrawlerUrl nextUrl = null;     
  3. while ((nextUrl == null) && (!urlQueue.isEmpty())) {     
  4.         CrawlerUrl crawlerUrl = this.urlQueue.remove();     
  5. //doWeHavePermissionToVisit:是否有权限访问该URL,友好的爬虫会根据网站提供的"Robot.txt"中配置的规则进行爬取   
  6. //isUrlAlreadyVisited:URL是否访问过,大型的搜索引擎往往采用BloomFilter进行排重,这里简单使用HashMap   
  7. //isDepthAcceptable:是否达到指定的深度上限。爬虫一般采取广度优先的方式。一些网站会构建爬虫陷阱(自动生成一些无效链接使爬虫陷入死循环),采用深度限制加以避免   
  8. if (doWeHavePermissionToVisit(crawlerUrl)     
  9.             && (!isUrlAlreadyVisited(crawlerUrl))      
  10.             && isDepthAcceptable(crawlerUrl)) {     
  11.             nextUrl = crawlerUrl;     
  12. // System.out.println("Next url to be visited is " + nextUrl);   
  13.         }     
  14.     }     
  15. return nextUrl;     
  16. }   

更多的关于robot.txt的具体写法,可参考以下这篇文章:

http://www.bloghuman.com/post/67/

getContent内部使用apache的httpclient 4.1获取网页内容,具体代码如下:

Java代码

  1. private String getContent(CrawlerUrl url) throws Throwable {     
  2. //HttpClient4.1的调用与之前的方式不同   
  3.     HttpClient client = new DefaultHttpClient();     
  4.     HttpGet httpGet = new HttpGet(url.getUrlString());     
  5.     StringBuffer strBuf = new StringBuffer();     
  6.     HttpResponse response = client.execute(httpGet);     
  7. if (HttpStatus.SC_OK == response.getStatusLine().getStatusCode()) {     
  8.         HttpEntity entity = response.getEntity();     
  9. if (entity != null) {     
  10.             BufferedReader reader = new BufferedReader(     
  11. new InputStreamReader(entity.getContent(), "UTF-8"));     
  12.             String line = null;     
  13. if (entity.getContentLength() > 0) {     
  14.                 strBuf = new StringBuffer((int) entity.getContentLength());     
  15. while ((line = reader.readLine()) != null) {     
  16.                     strBuf.append(line);     
  17.                 }     
  18.             }     
  19.         }     
  20. if (entity != null) {     
  21.             entity.consumeContent();     
  22.         }     
  23.     }     
  24. //将url标记为已访问   
  25.     markUrlAsVisited(url);     
  26. return strBuf.toString();     
  27. }    

对于垂直型应用来说,数据的准确性往往更为重要。聚焦型爬虫的主要特点是,只收集和主题相关的数据,这就是isContentRelevant方法的作用。这里或许要使用分类预测技术,为简单起见,采用正则匹配来代替。其主要代码如下:

Java代码

  1. publicstaticboolean isContentRelevant(String content,     
  2. Pattern regexpPattern) {     
  3. boolean retValue = false;     
  4. if (content != null) {     
  5. //是否符合正则表达式的条件   
  6.         Matcher m = regexpPattern.matcher(content.toLowerCase());     
  7.         retValue = m.find();     
  8.     }     
  9. return retValue;     
  10. }    

extractUrls的主要作用,是从网页中获取更多的URL,包括内部链接和外部链接,代码如下:

Java代码

  1. public List extractUrls(String text, CrawlerUrl crawlerUrl) {     
  2.     Map urlMap = new HashMap();     
  3.     extractHttpUrls(urlMap, text);     
  4.     extractRelativeUrls(urlMap, text, crawlerUrl);     
  5. returnnew ArrayList(urlMap.keySet());     
  6. }     
  7. //处理外部链接   
  8. privatevoid extractHttpUrls(Map urlMap, String text) {     
  9.     Matcher m = httpRegexp.matcher(text);     
  10. while (m.find()) {     
  11.         String url = m.group();     
  12.         String[] terms = url.split("a href=\"");     
  13. for (String term : terms) {     
  14. // System.out.println("Term = " + term);   
  15. if (term.startsWith("http")) {     
  16. int index = term.indexOf("\"");     
  17. if (index > 0) {     
  18.                     term = term.substring(0, index);     
  19.                 }     
  20.                 urlMap.put(term, term);     
  21.                 System.out.println("Hyperlink: " + term);     
  22.             }     
  23.         }     
  24.     }     
  25. }     
  26. //处理内部链接   
  27. privatevoid extractRelativeUrls(Map urlMap, String text,     
  28.         CrawlerUrl crawlerUrl) {     
  29.     Matcher m = relativeRegexp.matcher(text);     
  30.     URL textURL = crawlerUrl.getURL();     
  31.     String host = textURL.getHost();     
  32. while (m.find()) {     
  33.         String url = m.group();     
  34.         String[] terms = url.split("a href=\"");     
  35. for (String term : terms) {     
  36. if (term.startsWith("/")) {     
  37. int index = term.indexOf("\"");     
  38. if (index > 0) {     
  39.                     term = term.substring(0, index);     
  40.                 }     
  41.                 String s = "http://" + host + term;     
  42.                 urlMap.put(s, s);     
  43.                 System.out.println("Relative url: " + s);     
  44.             }     
  45.         }     
  46.     }     
  47. }    

如此,便构建了一个简单的网络爬虫程序,可以使用以下程序来测试它:

Java代码

  1. publicstaticvoid main(String[] args) {     
  2. try {     
  3.         String url = "http://www.amazon.com";     
  4.         Queue urlQueue = new LinkedList();     
  5.         String regexp = "java";     
  6.         urlQueue.add(new CrawlerUrl(url, 0));     
  7.         NaiveCrawler crawler = new NaiveCrawler(urlQueue, 1005, 1000L,     
  8.                 regexp);     
  9. // boolean allowCrawl = crawler.areWeAllowedToVisit(url);   
  10. // System.out.println("Allowed to crawl: " + url + " " +   
  11. // allowCrawl);   
  12.         crawler.crawl();     
  13.     } catch (Throwable t) {     
  14.         System.out.println(t.toString());     
  15.         t.printStackTrace();     
  16.     }     
  17. }    

当然,你可以为它赋予更为高级的功能,比如多线程、更智能的聚焦、结合Lucene建立索引等等。更为复杂的情况,可以考虑使用一些开源的蜘蛛程序,比如Nutch或是Heritrix等等,就不在本文的讨论范围了。

【编辑推荐】

  1. Java创始人:Oracle起诉Google与版权无关
  2. 薪酬与权力 Java之父讲述离职Oracle内幕
  3. Java之父:我们看中的并非Java语言,而是JVM
  4. 2010年10月编程语言排行榜:Java的混乱之治

【责任编辑:金贺 TEL:(010)68476606】

原文:Java网络爬虫的实现返回开发首页

点赞

发表评论

电子邮件地址不会被公开。 必填项已用*标注