使用maven實現有關Jsoup簡單爬蟲的步驟

Posted on by

一、Jsoup的簡介

jsoup 是一款Java 的HTML解析器，可直接解析某個URL地址、HTML文本內容。它提供瞭一套非常省力的API，可通過DOM，CSS以及類似於jQuery的操作方法來取出和操作數據

二、我們可以利用Jsoup做什麼

2.1從URL，文件或字符串中刮取並解析HTML查找和提取數據，

2.2使用DOM遍歷或CSS選擇器操縱HTML元素，屬性和文本

2.3從而使我們輸出我們想要的整潔文本

三、利用Jsoup爬取某東示例

可以從圖中看到，成功爬取某東的女裝熱門銷量從高到低的標題，從而可以分析到銷量高（或者是綜合排序）在前列的標題名稱。從而可以剖析出熱門商品的命名規范。

四、Jsoup用法

4.1先創建maven工程，在maven工程上註入依賴

4.2註入依賴後需要導入依賴，否則在程序中使用Jsoup會全部報錯。

4.3利用JSP的知識找出目標元素

如在某東界面我們發現， 控制目標頁面的ID為”plist”，則我們使用

getElementById(“plist”);方法去獲取到他的ID

接著獲取目標標題，可以由上圖分析得，標題是由<em>標簽所控制，因此我們需要用到

getElementsByTag(“em”);去捕捉到em的部分

最後循環輸出他的部分即可。

五、總結

Jsoup隻能應用於簡單的頁面捕捉，在實際開發中許多網站采用Ajax技術等使得模塊在動態變化抑或是有反爬蟲技術，因此本技術有局限性。熟悉前端jsp技術的同學應該會遊刃有餘。

最後附上所有代碼

以上就是使用maven實現有關Jsoup簡單爬蟲的步驟的詳細內容，更多關於maven實現Jsoup爬蟲的資料請關註WalkonNet其它相關文章！

推薦閱讀：