主页 > 知识库 > 使用正则表达式实现网页爬虫的思路详解

使用正则表达式实现网页爬虫的思路详解

热门标签:Linux服务器 服务器配置 银行业务 科大讯飞语音识别系统 Mysql连接数设置 阿里云 电子围栏 团购网站

网页爬虫:就是一个程序用于在互联网中获取指定规则的数据。

思路:

1.为模拟网页爬虫,我们可以现在我们的tomcat服务器端部署一个1.html网页。(部署的步骤:在tomcat目录的webapps目录的ROOTS目录下新建一个1.html。使用notepad++进行编辑,编辑内容为:

2.使用URL与网页建立联系
3.获取输入流,用于读取网页中的内容
4.建立正则规则,因为这里我们是爬去网页中的邮箱信息,所以建立匹配 邮箱的正则表达式:String regex="\w+@\w+(\.\w+)+";
5.将提取到的数据放到集合中。

代码:

import java.io.BufferedReader;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.net.URL;
import java.util.ArrayList;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
/*
 * 网页爬虫:就是一个程序用于在互联网中获取指定规则的数据
 * 
 * 
 */
public class RegexDemo {
 public static void main(String[] args) throws Exception {
 
 ListString> list=getMailByWeb();
 for(String str:list){
 System.out.println(str);
 }
 
 }
 private static ListString> getMailByWeb() throws Exception {
 
 //1.与网页建立联系。使用URL
 String path="http://localhost:8080//1.html";//后面写双斜杠是用于转义
 URL url=new URL(path);
 //2.获取输入流
 InputStream is=url.openStream();
 //加缓冲
 BufferedReader br=new BufferedReader(new InputStreamReader(is));
 //3.提取符合邮箱的数据
 String regex="\\w+@\\w+(\\.\\w+)+";
 //进行匹配
 //将正则规则封装成对象
 Pattern p=Pattern.compile(regex);
 //将提取到的数据放到一个集合中
 ListString> list=new ArrayListString>();
 
 String line=null;
 while((line=br.readLine())!=null){
 //匹配器
 Matcher m=p.matcher(line);
 while(m.find()){
 //3.将符合规则的数据存储到集合中
 list.add(m.group());
 }
 }
 
 return list;
 }
}

注意:在执行前需要先开启tomcat服务器

运行结果:

总结

以上所述是小编给大家介绍的使用正则表达式实现网页爬虫的思路详解,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!

您可能感兴趣的文章:
  • Python爬虫之正则表达式的使用教程详解
  • Python爬虫之正则表达式基本用法实例分析
  • python爬虫正则表达式之处理换行符
  • python爬虫 正则表达式使用技巧及爬取个人博客的实例讲解
  • python爬虫入门教程--正则表达式完全指南(五)
  • Python 爬虫学习笔记之正则表达式
  • 玩转python爬虫之正则表达式
  • Python的爬虫包Beautiful Soup中用正则表达式来搜索
  • Python爬虫正则表达式常用符号和方法
  • python3爬虫之入门基础和正则表达式
  • 零基础写python爬虫之神器正则表达式
  • java正则表达式简单使用和网页爬虫的制作代码

标签:江苏 衢州 枣庄 萍乡 广元 蚌埠 衡水 大理

巨人网络通讯声明:本文标题《使用正则表达式实现网页爬虫的思路详解》,本文关键词  ;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 收缩
    • 微信客服
    • 微信二维码
    • 电话咨询

    • 400-1100-266