Java如何实现爬虫

这篇文章主要介绍了Java如何实现爬虫，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

站在用户的角度思考问题，与客户深入沟通，找到青岛网站设计与青岛网站推广的解决方案，凭借多年的经验，让设计与互联网技术结合，创造个性化、用户体验好的作品，建站类型包括：网站制作、成都网站制作、企业官网、英文网站、手机端网站、网站推广、域名注册、网络空间、企业邮箱。业务覆盖青岛地区。

一、代码

爬虫的实质就是打开网页源代码进行匹配查找，然后获取查找到的结果。

打开网页：

URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");

读取网页内容：

BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));

正则表达式进行匹配：

tring mail_regex = "\\w+@\\w+(\\.\\w+)+";

储存结果：

List list = new ArrayList();

/*
* 获取
* 将正则规则进行对象的封装。
* Pattern p = Pattern.compile("a*b");
* //通过正则对象的matcher方法字符串相关联。获取要对字符串操作的匹配器对象Matcher .
* Matcher m = p.matcher("aaaaab");
* //通过Matcher匹配器对象的方法对字符串进行操作。
* boolean b = m.matches();
*/

import java.io.BufferedReader;
import java.io.FileNotFoundException;
import java.io.FileReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.net.URL;
import java.util.ArrayList;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
 
public class Spider {
 
    public static void main(String[] args) throws IOException {
//        List list = getMails();
//        for(String mail : list){
//            System.out.println(mail);
//        }
    
        List list = getMailsByWeb();
        for(String mail : list){
            System.out.println(mail);
        }
    }
 
    public static List  getMailsByWeb() throws IOException{
        //1,读取源文件。
        //URL url = new URL("http://192.168.1.100:8080/myweb/mail.html");
        //URL url = new URL("http://localhost:8080/SecondWeb/index.jsp");
        URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");
 
        BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));
 
 
        //2,对读取的数据进行规则的匹配。从中获取符合规则的数据.
        String mail_regex = "\\w+@\\w+(\\.\\w+)+";
 
        List list = new ArrayList();
 
        Pattern p = Pattern.compile(mail_regex);
        String line = null;
 
        while((line=bufr.readLine())!=null){
 
            Matcher m = p.matcher(line);
            while(m.find()){
                //3,将符合规则的数据存储到集合中。
                list.add(m.group());
            }
 
        }
        return list;
    }
 
    public static List  getMails() throws IOException{
        //1,读取源文件。
        BufferedReader bufr = new BufferedReader(new FileReader("c:\\mail.html"));
 
 
        //2,对读取的数据进行规则的匹配。从中获取符合规则的数据.
        String mail_regex = "\\w+@\\w+(\\.\\w+)+";
 
        List list = new ArrayList();
 
        Pattern p = Pattern.compile(mail_regex);
        String line = null;
 
        while((line=bufr.readLine())!=null){
 
            Matcher m = p.matcher(line);
            while(m.find()){
                //3,将符合规则的数据存储到集合中。
                list.add(m.group());
            }
 
        }
        return list;
    }
}

二、运行结果

abc1@sina.com.cn1@1.1

感谢你能够认真阅读完这篇文章，希望小编分享的“Java如何实现爬虫”这篇文章对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，更多相关知识等着你来学习!

网站名称：Java如何实现爬虫
链接地址：http://shouzuofang.com/article/gcegjo.html