SpringCloud中使用Sentinel實現限流的實戰
前言
在分佈式的項目中經常會遇到那種高並發的場景,為瞭保證系統不會被突然激增的請求導致宕機,我們常常會使用一種服務降級的手段來保護我們的系統,本篇博客將介紹如何使用SpringCloud
中使用Sentinel
實現限流,從而達到服務降級的目的。
正文 Sentinel
Sentinel 是面向微服務的輕量級流量控制框架,從流量控制、熔斷降級、系統負載保護等多個維度保護服務的穩定性。
Sentinel可以作為Hystrix
的替代品,為系統提供服務熔斷和服務降級的功能。
- 服務熔斷:根據保險絲的熔斷是一個原理,當調用目標服務大量超時和失敗,這時候應該熔斷掉該服務的調用,從而快速釋放資源,這段時間所有對其調用都是快速返回,保證整體服務系統的穩定
- 服務降級:針對核心業務服務的壓力劇增,根據當前業務場景和流量對其他非核心服務進行降級處理,可以進行限流,快速返回等處理,釋放資源保證核心任務的正常運行。
Sentinel的限流原理
Sentinel
以Bucket
(桶)為單位記錄一個時間窗口內的請求總數、異常總數、總耗時等指標數據。- 而一個
Bucket
可以是記錄一秒內的數據,也可以是10毫秒內的數據,我們稱這個時間窗口為Bucket
的統計單位,由使用者自定義。
所以Sentinel
是基於滑動窗口算法來實現的。
設置Sentinel的閾值指標:
線程數模式
線程數的模式采用信號隔離的方式來防止線程池被占用。
用於防止線程池被占用,一般有兩種方式:
- 線程池隔離:為應對太多線程占用的情況,業內有使用隔離的方案,比如通過不同業務邏輯使用不同線程池來隔離業務自身之間的資源爭搶,這種隔離方案雖然隔離性比較好,但是代價就是線程數目太多,線程上下文切換的
overhead
比較大,特別是對低延時的調用有比較大的影響。 - 信號隔離:
sentinel
采用的是信號隔離的方案,簡單統計當前請求上下文的線程數目(正在執行的調用數目),如果超出閾值,新的請求會被立即拒絕。
所以業務處理是多線程的情況下使用線程數模式。
Sentinel
采用信號隔離的方式,通過並發線程數模式,並結合基於響應時間的熔斷降級模式,可以在不穩定的平均相應時間比較高的時候自動降級,防止過多的慢調用占滿並發數,影響整個系統,避免慢調用引起依賴雪崩的現象。
QPS模式QPS
即每秒查詢率,是對一個特定的查詢服務器在規定時間內所處理流量多少的衡量標準。QPS
模式適合單讀線程情況(如servlet
請求),這種模式下提供瞭三種更加精確的流控方式:
- 直接拒絕 :直接失敗
- Warm Up: 即請求
QPS
從threshold / 3
開始,經預熱時長逐漸升至設定的QPS
閾值,通常用於秒殺系統。 - 勻速排隊:設置一個等待時間, 勻速處理請求,保證服務的均勻性,不能處理
QPS>1000
的場景。
Sentinel 兩種計算閾值的模式:
- 集群總體模式:即限制整個集群內的某個資源的總體
qps
不超過此閾值。 - 單機均攤模式:單機均攤模式下配置的閾值等同於單機能夠承受的限額,
token server
會根據連接數來計算總的閾值(比如獨立模式下有 3個client
連接到瞭token server
,然後配的單機均攤閾值為 10,則計算出的集群總量就為30),按照計算出的總的閾值來進行限制。這種方式根據當前的連接數實時計算總的閾值,對於機器經常進行變更的環境非常適合。
這裡要說明的是:qps
是每秒查詢數, tps
是每秒內的事務數, pv
是指頁面被瀏覽的次數。
Sentinel流控模式
- 直接模式: 接口達到限流條件時,開啟限流
- 關聯模式: 當關聯的資源達到限流條件時,開啟限流
- 鏈路模式:當從某個接口過來的資源達到限流條件時,開啟限流
Sentinel限流的方式
- 在
Sentinel
控制臺中根據url
進行限流設置 - 通過註解的方式進行自定義限流,又可以分為:自定義
url
限流和自定義資源限流。
第一步:部署sentinel-dashboard
sentinel-dashboard(點擊下載jar
包)是一個單獨的應用,通過spring-boot
進行啟動,主要提供一個輕量級的控制臺,它提供機器發現、單機資源實時監控、集群資源匯總,以及規則管理的功能。
這裡可以理解為sentinel
服務治理中心。
java -Dserver.port=18080 -jar sentinel-dashboard.jar
第二步:在項目中整合sentinel
註入依賴
<!--springCloud-Alibaba--> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-alibaba-dependencies</artifactId> <version>2.2.0.RELEASE</version> <type>pom</type> <scope>import</scope> </dependency> <!--sentinel限流--> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId> <version>2.2.1.RELEASE</version> </dependency>
在application.properties中的相關配置
spring.application.name=imagerepair server.port=8080 spring.cloud.sentinel.transport.dashboard=127.0.0.1:18080 spring.cloud.sentinel.eager=true
Controller層
@RestController public class UserController { @Autowired UserService userService; @RequestMapping("/hello") public String hello(){ return userService.sayHello(); } }
Service
@Service public class UserService { @SentinelResource(value = "sayHello",fallback = "sayHellofail") public String sayHello(){ return "Hello,World"; } public String sayHellofail(){ return "I'am sorry"; } }
設置限流,快速訪問,從而觸發服務降級
設置Sentinel的資源
當請求超過設定的閾值,啟動限流降級,展示如下:
項目源碼
該項目源碼可從我的github中獲取。
到此這篇關於SpringCloud中使用Sentinel實現限流的實戰的文章就介紹到這瞭,更多相關SpringCloud Sentinel限流內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- Sentinel 整合SpringCloud的詳細教程
- 淺談如何在項目中使用Spring Cloud Alibaba Sentinel組件
- Java之SpringCloudAlibaba Sentinel組件案例講解
- SpringCloud-Alibaba-Sentinel-配置持久化策略詳解
- Spring Cloud Gateway整合sentinel 實現流控熔斷