Sentinel源碼分析,了解Sentinel的整個工作流程
本篇內容:
-
Sentinel對性能的消耗如何
Sentinel工作流程源碼分析
Sentinel熔斷降級實現源碼分析
Sentinel對性能的消耗如何
Sentinel統計QPS使用的是時間窗口+Bucket,并且通過循環復用Bucket以減少對內存的占用,在統計QPS時,更是利用當前時間戳定位Bucket,使用LongAdder統計時間窗口內的請求成功數、失敗數、總耗時優化了并發鎖,通過定時任務遞增時間戳避免每次都使用System獲取當前時間。可以看到Sentinel在性能方面所做出的努力,Sentinel盡最大可能降低自身對應用的影響。
Sentinel會為每個資源(接口)創建一個保存一分鐘內時間窗口為1秒的Bucket數組以及一個保存一秒鐘內以500ms為時間窗口的Bucket數組,將這兩個數組包裝為一個Node,以統計該接口的請求數據。每個Bucket記錄一個時間窗口內的請求總數、失敗總數、總耗時(通過總耗時可計算平均耗時)、被限流或者被熔斷的請求總數。
因此,Sentinel消耗的內存至少是資源總數乘以每個資源對應的Node占用的內存大小,每個Node占用的內存大小即為一個大小為2的Bucket數組和一個大小為60的Bucket數組所占用的內存。
Sentinel工作流程源碼分析
Sentinel通過復用Bucket降低對內存的消耗,使用LongAdder降低并發統計數據對性能的消耗,除這些之外,Sentinel通過責任鏈模式實現統計、限流、熔斷降級等功能,實現局部無鎖化。
Sentinel的基本使用:
Sentinel實現統計、限流、熔斷降級等功能由一個個ProcessorSlot完成,例如,統計資源當前時間窗口的請求總數、失敗總數等由StatisticSlot完成,判斷當前請求是否需要限流由FlowSlot完成,判斷當前請求是否需要熔斷降級由DegradeSlot完成。
這些ProcessorSlot按照嚴格的順序包裝成一個鏈表,比如StatisticSlot在FlowSlot之前,FlowSlot在DegradeSlot之前。
ProcessorSlot的entry方法在接收到客戶端請求時或者客戶端向服務端發送請求之前被調用,exit方法則是在服務端處理完請求(包括異常完成)時或者客戶端發送請求完成時被調用。每個ProcessorSlot通過fireEntry方法或者fireExit方法向下傳遞信號。
看過Netty源碼的朋友應該對這種設計模式的使用并不陌生,Netty也是通過責任鏈模式將處理請求的Handler包裝為鏈表,實現局部串行處理請求。但Sentinel的ProcessorSlot與Netty的Handler有些區別,ProcessorSlot的exit方法并不像Netty那樣是從后往前傳遞的。
我們熟悉的Shiro也是通過責任鏈實現(過濾器),所以Sentinel實現限流、熔斷并不難理解。在不考慮集群限流的情況下。當SphU的entry方法被調用時,至少會經過StatisticSlot、FlowSlot、DegradeSlot這三個ProcessorSlot,其時序圖如下。
當StatisticSlot的entry方法被調用時,由StatisticSlot根據資源獲取資源的Node,根據當前時間戳從Node獲取當前時間窗口的Bucket,然后將Bucket的請求總數自增1。StatisticSlot在entry方法中捕獲異常,如果下游的ProcessorSlot拋出異常為BlockException或BlockException的子類,則將Bucket的限流總數自增1,否則將Bucket的異常總數自增1。
當FlowSlot的entry方法被調用時,檢查為當前資源配置的限流規則是否滿足限流條件,如果滿足條件則拋出BlockException異常,表示當前請求被限流。由于Sentinel支持集群限流,所以限流的實現上比較復雜,我們暫不討論。如果是單節點的限流,則實現上與熔斷降級的實現差不多,本篇只介紹熔斷降級的實現。
當DegradeSlot的entry方法被調用時,檢查為當前資源配置的熔斷降級規則是否滿足條件,如果滿足條件則拋出DegradeException異常,表示當前請求被熔斷。
Sentinel熔斷降級實現源碼分析
Sentinel會為每個資源(ResourceWrapper)創建一個Node,用于統計請求數據(請求總數、異常總數、被限流或被熔斷總數、總耗時),為限流和熔斷降級功能提供支持。
ResourceWrapper的name為資源名稱,也可以理解是接口url,但這樣理解是不正確的。資源名稱在我們配置限流規則或者熔斷降級規則時也用到。
ResourceWrapper的entryType為流量類型,可取值為IN和OUT,IN表示流入類型,即服務端接收客戶端請求;OUT為流出類型,即客戶端向服務端發起請求。
ResourceWrapper的resourceType為資源類型,表示是Servlet還是RPC、API網關、數據庫等。可見,Sentinel還支持對數據庫的訪問限流、熔斷。
Sentinel提供的熔斷降級功能,不僅可以在客戶端使用,也可以在服務端使用,但一般會放在客戶端,用于流量類型為OUT類型的資源的熔斷降級,保證自身不受服務端的影響,不被服務端拖垮。
判斷Sentinel的熔斷降級功能是否支持在服務端執行,我們可通過閱讀DegradeSlot的源碼,查看是否限制了只有流量類型為EntryType.OUT時才生效。
當DegradeSlot的entry方法被調用時,由DegradeSlot調用DegradeRuleManager的checkDegrade方法檢查當前請求是否滿足某個熔斷降級規則。
在學習如何使用Sentinel實現熔斷降級時,我們是使用DegradeRuleManager加載我們配置的熔斷降級規則的,所以DegradeSlot將check邏輯才交給DegradeRuleManager去完成。
DegradeRuleManager首先根據資源名稱獲取配置的熔斷降級規則,因為我們可以對同一個資源配置多個熔斷降級規則,所以返回的將是一個集合。然后遍歷熔斷降級規則,調用DegradeRule的passCheck方法將檢查是否需要觸發熔斷的邏輯交給DegradeRule完成。如果對一個資源配置多個熔斷降級規則,那么只要有一個熔斷降級規則滿足條件,就會觸發熔斷。
DegradeRule的passCheck方法源碼如下。
從DegradeRule的passCheck方法的源碼中,我們并未發現有任何地方限制熔斷降級的觸發只有流量類型為EntryType.OUT才生效,因此,熔斷降級不僅可以用于客戶端,也可以用于服務端。
熔斷降級策略支持三種:
1、平均響應時間 (DEGRADE_GRADE_RT)
2、異常比例 (DEGRADE_GRADE_EXCEPTION_RATIO)
3、異常數 (DEGRADE_GRADE_EXCEPTION_COUNT)。
官方文檔在介紹DEGRADE_GRADE_EXCEPTION_COUNT策略的地方加了使用注意說明:注意由于統計時間窗口是分鐘級別的,若 timeWindow 小于 60s,則結束熔斷狀態后仍可能再進入熔斷狀態。
這句話并不難理解,從DegradeRule的passCheck方法源碼就能找到答案,如下圖所示。
本文轉載自微信公眾號「 Java藝術」,可以通過以下二維碼關注。轉載本文請聯系 Java藝術公眾號。
聲明:免責聲明:本文內容由互聯網用戶自發貢獻自行上傳,本網站不擁有所有權,也不承認相關法律責任。如果您發現本社區中有涉嫌抄襲的內容,請發
送郵件至:operations@xinnet.com進行舉報,并提供相關證據,一經查實,本站將立刻刪除涉嫌侵權內容。本站原創內容未經允許不得轉載,或轉載時
需注明出處:新網idc知識百科