jsoup 是一款 Java 的HTML 解析器,可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API,可通过DOM,CSS以及类似于JQuery的操作方法来取出和操作数据。类似的解析器还有HTMLParser,使用的也比较广泛,但是HTMLParser缺少维护,发布的最后一个版本还停留在2006年(http://sourceforge.net/projects/htmlparser/files/)。

在使用jsoup解析html之前,有必要对html的dom结构进行一个了解。因为在jsoup中定义了例如Node、Element、Document等这样的类,你必须清楚这些类所代表的含义。下面是jsoup中org.jsoup.nodes这个包的类层次图:

Hierarchy-For-Package org.jsoup.nodes
Hierarchy-For-Package org.jsoup.nodes

节点(Node)

Node是最基本的,抽象的结点模型。Elements, Documents, Comments等都是 Node 的实例(或子类).根据 DOM,HTML 文档中的每个成分都是一个节点。

DOM 是这样规定的:

  • 整个文档是一个文档节点
  • 每个 HTML 标签是一个元素节点
  • 包含在 HTML 元素中的文本是文本节点
  • 每一个 HTML 属性是一个属性节点
  • 注释属于注释节点

Node 层次

节点彼此都有等级关系。

HTML 文档中的所有节点组成了一个文档树(或节点树)。HTML 文档中的每个元素、属性、文本等都代表着树中的一个节点。树起始于文档节点,并由此继续伸出枝条,直到处于这棵树最低级别的所有文本节点为止。

html-dom-structure
html-dom-structure

<html>
   <head>
     <title> DOM Tutorial </title>  
   </head>  
   <body>  
     <h1> DOM Lesson one </h1>  
     <p> Hello world! </p>  
   </body>  
 </html>

上面所有的节点彼此间都存在_关系_。

除文档节点之外的每个节点都有_父节点_。举例, <head><body> 的父节点是 <html> 节点,文本节点 “Hello world!” 的父节点是 <p> 节点。

大部分元素节点都有_子节点_。比方说,<head> 节点有一个子节点: <title> 节点。 <title> 节点也有一个子节点:文本节点 “DOM Tutorial”。

当节点分享同一个父节点时,它们就是_同辈(同级节点)_。比方说,<h1><p> 是同辈,因为它们的父节点均是 <body> 节点。

节点也可以拥有_后代_,后代指某个节点的所有子节点,或者这些子节点的子节点,以此类推。比方说,所有的文本节点都是 <html> 节点的后代,而第一个文本节点是 <head> 节点的后代。

节点也可以拥有_先辈_。先辈是某个节点的父节点,或者父节点的父节点,以此类推。比方说,所有的文本节点都可把 <html> 节点作为先辈节点。

Element

一个HTML元素(Element)包含一个标记名称,属性和子节点(包括文本节点和其他元素)。从一个元素(Element)中,你可以提取数据,遍历节点图,以及操纵HTML。jsoup中的Element类提供了若干种方法来查找您希望操作的元素。

  • getAllElements()  返回所有的元素,包括元素的子元素,以及子元素的子元素
  • getElementById(String id)   根据元素的ID查找元素
  • getElementsByAttribute(String key)  根据属性名查找元素
  • getElementsByAttributeValue(String key, String value) 根据属性键值对查代元素
  • getElementsByClass(String className) 根据css的class查找元素
  • getElementsByTag(String tagName) 根据标签名称查找元素
 <div id="imgDiv" class="imgClass">
 <a href="#">
   <img src="http://xxxx.xx/xx.jpg"/>
 </a>
 </div>

在上面的例子中,我们就可以使用getElementsByTag(“img”)获取到<img src="http://xxxx.xx/xx.jpg"/>

同样的,可以使用getElementById(“imgDiv”)和getElementsByClass(“imgClass”)获取到整个dom文档。