急求一个java程序模板：我们有java数据结构课程设计：用java写一个爬虫，爬取两个网页的内容。

//这是一位老师讲课时的爬邮箱代码，你可以参考一下

package cnitcastregextest;

import javaioBufferedReader;

import javaioFileReader;

import javaioIOException;

import javaioInputStreamReader;

import javanetURL;

import javautilArrayList;

import javautilList;

import javautilregexMatcher;

import javautilregexPattern;

/

  网页爬虫：其实就一个程序用于在互联网中获取符合指定规则的数据。 

  爬取邮箱地址。 

 /

public class RegexTest2 {

/

  @param args

  @throws IOException 

 /

public static void main(String[] args) throws IOException {

List<String> list = getMailsByWeb();

for(String mail : list){

Systemoutprintln(mail);

}

}

public static List<String> getMailsByWeb() throws IOException {

//1,读取源文件。

// BufferedReader bufr = new BufferedReader(new FileReader("c:\\mailhtml"));

URL url = new URL(">

有些人问，开发网络爬虫应该选择Nutch、Crawler4j、WebMagic、scrapy、WebCollector还是其他的？这里按照我的经验随便扯淡一下：

上面说的爬虫，基本可以分3类：

1分布式爬虫：Nutch

2JAVA单机爬虫：Crawler4j、WebMagic、WebCollector

3 非JAVA单机爬虫：scrapy

第一类:分布式爬虫

爬虫使用分布式，主要是解决两个问题：

1)海量URL管理

2)网速

现在比较流行的分布式爬虫，是Apache的Nutch。但是对于大多数用户来说，Nutch是这几类爬虫里，最不好的选择，理由如下：

1)Nutch是为搜索引擎设计的爬虫，大多数用户是需要一个做精准数据爬取（精抽取）的爬虫。Nutch运行的一套流程里，有三分之二是为了搜索引擎而设计的。对精抽取没有太大的意义。也就是说，用Nutch做数据抽取，会浪费很多的时间在不必要的计算上。而且如果你试图通过对Nutch进行二次开发，来使得它适用于精抽取的业务，基本上就要破坏Nutch的框架，把Nutch改的面目全非，有修改Nutch的能力，真的不如自己重新写一个分布式爬虫框架了。

2)Nutch依赖hadoop运行，hadoop本身会消耗很多的时间。如果集群机器数量较少，爬取速度反而不如单机爬虫快。

3)Nutch虽然有一套插件机制，而且作为亮点宣传。可以看到一些开源的Nutch插件，提供精抽取的功能。但是开发过Nutch插件的人都知道，Nutch的插件系统有多蹩脚。利用反射的机制来加载和调用插件，使得程序的编写和调试都变得异常困难，更别说在上面开发一套复杂的精抽取系统了。而且Nutch并没有为精抽取提供相应的插件挂载点。Nutch的插件有只有五六个挂载点，而这五六个挂载点都是为了搜索引擎服务的，并没有为精抽取提供挂载点。大多数Nutch的精抽取插件，都是挂载在“页面解析”(parser)这个挂载点的，这个挂载点其实是为了解析链接（为后续爬取提供URL），以及为搜索引擎提供一些易抽取的网页信息(网页的meta信息、text文本)。

4)用Nutch进行爬虫的二次开发，爬虫的编写和调试所需的时间，往往是单机爬虫所需的十倍时间不止。了解Nutch源码的学习成本很高，何况是要让一个团队的人都读懂Nutch源码。调试过程中会出现除程序本身之外的各种问题(hadoop的问题、hbase的问题)。

5)很多人说Nutch2有gora，可以持久化数据到avro文件、hbase、mysql等。很多人其实理解错了，这里说的持久化数据，是指将URL信息（URL管理所需要的数据）存放到avro、hbase、mysql。并不是你要抽取的结构化数据。其实对大多数人来说，URL信息存在哪里无所谓。

6)Nutch2的版本目前并不适合开发。官方现在稳定的Nutch版本是nutch221，但是这个版本绑定了gora-03。如果想用hbase配合nutch（大多数人用nutch2就是为了用hbase)，只能使用090版本左右的hbase，相应的就要将hadoop版本降到hadoop 02左右。而且nutch2的官方教程比较有误导作用，Nutch2的教程有两个，分别是Nutch1x和Nutch2x，这个Nutch2x上写的是可以支持到hbase 094。但是实际上，这个Nutch2x的意思是Nutch23之前、Nutch221之后的一个版本，这个版本在官方的SVN中不断更新。而且非常不稳定（一直在修改）。

所以，如果你不是要做搜索引擎，尽量不要选择Nutch作为爬虫。有些团队就喜欢跟风，非要选择Nutch来开发精抽取的爬虫，其实是冲着Nutch的名气（Nutch作者是Doug Cutting），当然最后的结果往往是项目延期完成。

如果你是要做搜索引擎，Nutch1x是一个非常好的选择。Nutch1x和solr或者es配合，就可以构成一套非常强大的搜索引擎了。如果非要用Nutch2的话，建议等到Nutch23发布再看。目前的Nutch2是一个非常不稳定的版本。

爬虫的原理其实就是获取到网页内容，然后对其进行解析。只不过获取的网页、解析内容的方式多种多样而已。

你可以简单的使用>

无论是使用java、Python爬取数据，都会出现IP被封的情况，所以就需要使用代理IP替我们 *** 作。我一般会利用Java的>

爬虫，其实网络爬虫（Webcrawler）的一种简写，爬虫就是预先制定的规则，自动地抓取万维网网页页面信息的程序或者脚本，它们被广泛用于互联网搜索引擎或其他类似网站，可以自动采集所有其能够访问到的页面内容，以获取或更新这些网站的内容和检索方式。从功能上来讲，爬虫一般分为数据采集，处理，储存三个部分。

在爬虫技术开发方面，爬虫分为三类爬虫：

（1）分布式爬虫：Nutch

（2）JAVA爬虫：Crawler4j、WebMagic、WebCollector

（3）非JAVA爬虫：scrapy（基于Python语言开发）

分布式爬虫一般应用于大量数据爬取，用于爬取海量URL的场景。

java爬虫是发展的最为完善的一种爬虫。由于java语言的健壮性和整个生态的原因，java爬虫发展出了一整台爬虫的机制，不管是类库、开发、调试，整个过程都是十分规范和简单的。并且有很多开源项目可以参考和使用，社区非常活跃和完善。能够适用于很多企业开发应用场景。

Python爬虫，python可以用30行代码，完成JAVA50行代码干的任务。python写代码的确快，但是在调试代码的阶段，python代码的调试往往会耗费远远多于编码阶段省下的时间。使用python开发，要保证程序的正确性和稳定性，就需要写更多的测试模块。当然如果爬取规模不大、爬取业务不复杂，使用python这种爬虫也是蛮不错的，可以轻松完成爬取任务。

所以，如果提问者需要学习爬虫，可以先考虑下自己学爬虫的目的是什么比较好，根据你的目的去进行技术选型才是最省力的一种，不过一般作为个人开发者的话，Python还是最实用的。

以上就是关于急求一个java程序模板：我们有java数据结构课程设计：用java写一个爬虫，爬取两个网页的内容。全部的内容，包括:急求一个java程序模板：我们有java数据结构课程设计：用java写一个爬虫，爬取两个网页的内容。、用java写爬虫程序，有个网站获取不到链接，求指导、java 实现网络爬虫用哪个爬虫框架比较好等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！