Java使用selenium爬取b站動態的實現方式
目標:爬取b站用戶的動態裡面的圖片,示例動態
如下所示,我們需要獲取這些圖片
如圖所示,嗶哩嗶哩漫畫的數據是動態請求獲取的
這裡我們使用selenium來爬取數據
selenium
Selenium是一個用於Web應用程序測試的工具。Selenium測試直接運行在瀏覽器中,就像真正的用戶在操作一樣。
官網地址
這裡我使用chrome瀏覽器,所以驅動就選用chromedriver
mac安裝chromedriver
使用brew安裝
brew install chromedriver
手動安裝
查看電腦上chrome遊覽器的版本
下載對應驅動
chromedriver下載官網
選擇對應瀏覽器版本的驅動下載
解壓zip文件,放置到對應文件夾
完整代碼
這裡使用springboot框架
maven依賴
<dependency> <groupId>org.seleniumhq.selenium</groupId> <artifactId>selenium-java</artifactId> <version>3.141.59</version> </dependency> <dependency> <groupId>com.github.kevinsawicki</groupId> <artifactId>http-request</artifactId> <version>6.0</version> </dependency>
selenium用於解析網頁
http-request用於下載圖片
完整代碼
package com.sun.web_crawler; import com.github.kevinsawicki.http.HttpRequest; import org.openqa.selenium.By; import org.openqa.selenium.JavascriptExecutor; import org.openqa.selenium.WebDriver; import org.openqa.selenium.WebElement; import org.openqa.selenium.chrome.ChromeDriver; import org.openqa.selenium.chrome.ChromeOptions; import java.io.File; import java.util.ArrayList; import java.util.Collections; import java.util.HashMap; import java.util.regex.Matcher; import java.util.regex.Pattern; public class getPictures3Test { // https://space.bilibili.com/4099287/dynamic public static WebDriver getWebDriver(int moudle, String driverPath) { System.setProperty("webdriver.chrome.driver", driverPath); HashMap<String, Object> chromePrefs = new HashMap<String, Object>(); chromePrefs.put("profile.managed_default_content_settings.images", 2); WebDriver driver; if (moudle == 1) driver = new ChromeDriver(new ChromeOptions().setHeadless(true).setExperimentalOption("prefs", chromePrefs)); else driver = new ChromeDriver(); return driver; } //將所有鏈接對應的圖片下載到path中,並按照從number開始的順序編號 public static void downLoad(String path, ArrayList<String> links, int number) throws Exception { for (String s : links) { System.out.println("圖片:" + s); HttpRequest hr = HttpRequest.get("https:" + s); if (hr.ok()) { File file = new File(path + number + s.substring(s.length() - 4)); hr.receive(file); number++; } } } public static void main(String[] args) throws Exception { //用戶uid String uid = "4099287"; //圖片存儲位置 String dir = "/Volumes/data/data/b/tako" + File.separator; //driver位置 String driverPath = "/Volumes/data/env/chromedriver/chromedriver"; //沒有圖片可以加載時會顯示這個 String bottomFlag = "你已經到達瞭世界的盡頭"; //pt2用來匹配一個動態裡的圖片鏈接 Pattern pt2 = Pattern.compile("//i0[^@]{50,100}(png|jpg)"); //初始化 WebDriver driver = getWebDriver(1, driverPath); JavascriptExecutor jse = (JavascriptExecutor) driver; ArrayList<WebElement> wes = null; //圖片鏈接links ArrayList<String> links = new ArrayList<String>(); driver.get("https://space.bilibili.com/" + uid + "/dynamic"); Thread.sleep(3000); jse.executeScript("window.scrollBy(0," + 4000 + ");"); long time1 = System.currentTimeMillis(); System.out.println("開始爬取頁面圖片地址!"); int i=1; int count=0; while (true) { System.out.println("向下滾動第"+(i++)+"次!"); //向下滾動 jse.executeScript("window.scrollBy(0," + 800 + 500 * Math.random() + ");"); //如果發現到底瞭,就退出循環 if (driver.findElement(By.className("div-load-more")).getAttribute("innerHTML").contains(bottomFlag)) break; wes = (ArrayList<WebElement>) driver.findElements(By.className("original-card-content")); wes.remove(wes.size() - 1); //每20個動態獲取一次,並刪除對應的網頁元素(否則會很慢) if (wes.size() > 20) { for (WebElement we : wes) { String innerHtml = we.getAttribute("innerHTML"); Matcher matcher2 = pt2.matcher(innerHtml); while (matcher2.find()) { String link = matcher2.group(); if (link.contains("album")) links.add(link); System.out.println("記錄圖片地址數量為:"+ (++count)); } jse.executeScript("document.getElementsByClassName(\"card\")[0].remove();"); } } Thread.sleep(50); } Collections.reverse(links); long time2 = System.currentTimeMillis(); //下載 System.out.println("開始下載圖片!"); downLoad(dir, links, 0); long totalMilliSeconds = time2 - time1; System.out.println(); long totalSeconds = totalMilliSeconds / 1000; //求出現在的秒 long currentSecond = totalSeconds % 60; //求出現在的分 long totalMinutes = totalSeconds / 60; long currentMinute = totalMinutes % 60; //求出現在的小時 long totalHour = totalMinutes / 60; long currentHour = totalHour % 24; //顯示時間 System.out.println("總毫秒為: " + totalMilliSeconds); System.out.println(currentHour + ":" + currentMinute + ":" + currentSecond + " GMT"); driver.quit(); } }
開始下載代碼時如下:
下載完成後:
完成後如下:
到此這篇關於Java使用selenium爬取b站動態的實現方式的文章就介紹到這瞭,更多相關Java selenium爬取b站動態內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- Python語言中的Selenium環境搭建
- python爬蟲之selenium庫的安裝及使用教程
- 利用Java+Selenium+OpenCV模擬實現網頁滑動驗證
- Python中selenium_webdriver下拉框操作指南
- Python搶購腳本的編寫方法