關於Spring中一級緩存、二級緩存和三級緩存的那些事

Posted on by

題記

常常聽到別人提起：“一級緩存、二級緩存、三級緩存”。那麼它們是什麼呢？有什麼作用呢？

緩存作用分析

Spring中的一級緩存名為singletonObjects，二級緩存名為earlySingletonObjects，三級緩存名為singletonFactories，除瞭一級緩存是ConcurrentHashMap之外，二級緩存和三級緩存都是HashMap。它們的定義是在DefaultSingletonBeanRegistry類中。

一級緩存-singletonObjects是用來存放就緒狀態的Bean。保存在該緩存中的Bean所實現Aware子接口的方法已經回調完畢，自定義初始化方法已經執行完畢，也經過BeanPostProcessor實現類的postProcessorBeforeInitialization、postProcessorAfterInitialization方法處理；

二級緩存-earlySingletonObjects是用來存放早期曝光的Bean，一般隻有處於循環引用狀態的Bean才會被保存在該緩存中。保存在該緩存中的Bean所實現Aware子接口的方法還未回調，自定義初始化方法未執行，也未經過BeanPostProcessor實現類的postProcessorBeforeInitialization、postProcessorAfterInitialization方法處理。如果啟用瞭Spring AOP，並且處於切點表達式處理范圍之內，那麼會被增強，即創建其代理對象。

這裡額外提一點，普通Bean被增強(JDK動態代理或CGLIB)的時機是在AbstractAutoProxyCreator實現的BeanPostProcessor的postProcessorAfterInitialization方法中，而處於循環引用狀態的Bean被增強的時機是在AbstractAutoProxyCreator實現的SmartInstantiationAwareBeanPostProcessor的getEarlyBeanReference方法中。

三級緩存-singletonFactories是用來存放創建用於獲取Bean的工廠類-ObjectFactory實例。在IoC容器中，所有剛被創建出來的Bean，默認都會保存到該緩存中。

Bean在這三個緩存之間的流轉順序為（存在循環引用）：

  • 通過反射創建Bean實例。是單例Bean，並且IoC容器允許Bean之間循環引用，保存到三級緩存中。
  • 當發生瞭循環引用時，從三級緩存中取出Bean對應的ObjectFactory實例，調用其getObject方法，來獲取早期曝光Bean，從三級緩存中移除，保存到二級緩存中。
  • Bean初始化完成，生命周期的相關方法執行完畢，保存到一級緩存中，從二級緩存以及三級緩存中移除。

Bean在這三個緩存之間的流轉順序為（沒有循環引用）：

  • 通過反射創建Bean實例。是單例Bean，並且IoC容器允許Bean之間循環引用，保存到三級緩存中。
  • Bean初始化完成，生命周期的相關方法執行完畢，保存到一級緩存中，從二級緩存以及三級緩存中移除。

簡略流程圖：

一級緩存、二級緩存、三級緩存區別是什麼

一級緩存、二級緩存、三級緩存是什麼？作用？區別？ 首先簡單瞭解一下一級緩存。目前所有主流處理器大都具有一級緩存和二級緩存，少數高端處理器還集成瞭三級緩存。其中，一級緩存可分為一級指令緩存和一級數據緩存。一級指令緩存用於暫時存儲並向CPU遞送各類運算指令；一級數據緩存用於暫時存儲並向CPU遞送運算所需數據，這就是一級緩存的作用。 那麼，二級緩存的作用又是什麼呢？簡單地說，二級緩存就是一級緩存的緩沖器：一級緩存制造成本很高因此它的容量有限，二級緩存的作用就是存儲那些CPU處理時需要用到、一級緩存又無法存儲的數據。同樣道理，三級緩存和內存可以看作是二級緩存的緩沖器，它們的容量遞增，但單位制造成本卻遞減。

需要註意的是，無論是二級緩存、三級緩存還是內存都不能存儲處理器操作的原始指令，這些指令隻能存儲在CPU的一級指令緩存中，而餘下的二級緩存、三級緩存和內存僅用於存儲CPU所需數據。 根據工作原理的不同，目前主流處理器所采用的一級數據緩存又可以分為實數據讀寫緩存和數據代碼指令追蹤緩存2種，它們分別被AMD和Intel所采用。不同的一級數據緩存設計對於二級緩存容量的需求也各不相同，下面讓我們簡單瞭解一下這兩種一級數據緩存設計的不同之處。

一、AMD一級數據緩存設計 AMD采用的一級緩存設計屬於傳統的“實數據讀寫緩存”設計。基於該架構的一級數據緩存主要用於存儲CPU最先讀取的數據；而更多的讀取數據則分別存儲在二級緩存和系統內存當中。做個簡單的假設，假如處理器需要讀取“AMD ATHLON 64 3000+ IS GOOD”這一串數據（不記空格），那麼首先要被讀取的“AMDATHL”將被存儲在一級數據緩存中，而餘下的“ON643000+ISGOOD”則被分別存儲在二級緩存和系統內存當中（如下圖所示）。 需要註意的是，以上假設隻是對AMD處理器一級數據緩存的一個抽象描述，一級數據緩存和二級緩存所能存儲的數據長度完全由緩存容量的大小決定，而絕非以上假設中的幾個字節。“實數據讀寫緩存”的優點是數據讀取直接快速，但這也需要一級數據緩存具有一定的容量，增加瞭處理器的制造難度（一級數據緩存的單位制造成本較二級緩存高）。

二、Intel一級數據緩存設計 自P4時代開始，Intel開始采用全新的“數據代碼指令追蹤緩存”設計。基於這種架構的一級數據緩存不再存儲實際的數據，而是存儲這些數據在二級緩存中的指令代碼（即數據在二級緩存中存儲的起始地址）。假設處理器需要讀取“INTEL P4 IS GOOD”這一串數據（不記空格），那麼所有數據將被存儲在二級緩存中，而一級數據代碼指令追蹤緩存需要存儲的僅僅是上述數據的起始地址。

由於一級數據緩存不再存儲實際數據，因此“數據代碼指令追蹤緩存”設計能夠極大地降CPU對一級數據緩存容量的要求，降低處理器的生產難度。但這種設計的弊端在於數據讀取效率較“實數據讀寫緩存設計”低，而且對二級緩存容量的依賴性非常大。 在瞭解瞭一級緩存、二級緩存的大致作用及其分類以後，下面我們來回答以下硬件一菜鳥網友提出的問題。

從理論上講，二級緩存越大處理器的性能越好，但這並不是說二級緩存容量加倍就能夠處理器帶來成倍的性能增長。目前CPU處理的絕大部分數據的大小都在0-256KB之間，小部分數據的大小在256KB-512KB之間，隻有極少數數據的大小超過512KB。所以隻要處理器可用的一級、二級緩存容量達到256KB以上，那就能夠應付正常的應用；512KB容量的二級緩存已經足夠滿足絕大多數應用的需求。 這其中，對於采用“實數據讀寫緩存”設計的AMD Athlon 64、Sempron處理器而言，由於它們已經具備瞭64KB一級指令緩存和64KB一級數據緩存，隻要處理器的二級緩存容量大於等於128KB就能夠存儲足夠的數據和指令，因此它們對二級緩存的依賴性並不大。這就是為什麼主頻同為1.8GHz的Socket 754 Sempron 3000+（128KB二級緩存）、Sempron 3100+（256KB二級緩存）以及Athlon 64 2800+（512KB二級緩存）在大多數評測中性能非常接近的主要原因。所以對於普通用戶而言754 Sempron 2600+是值得考慮的。 反觀Intel目前主推的P4、賽揚系列處理器，它們都采用瞭“數據代碼指令追蹤緩存”架構，其中Prescott內核的一級緩存中隻包含瞭12KB一級指令緩存和16KB一級數據緩存，而Northwood內核更是隻有12KB一級指令緩存和8KB一級數據緩存。

因此，P4、賽隆系列處理器非常依賴於二級緩存，賽揚D 320（256KB二級緩存）和賽揚2.4GHz（128kb二級緩存）的性能差距是很好的證明；Cayon D和P4E處理器之間的性能差距也非常明顯。最後，如果你是一個狂熱的遊戲愛好者或者一個專業的多媒體用戶，一個帶有1MB二級緩存的P4處理器和一個512Kb/1MB二級緩存的Athon 64處理器是你的理想選擇。由於CPU的主存和二級緩存在重計算負載下幾乎是“滿”的，大的二級緩存可以為處理器提供大約5%到10%的性能改進，這對於要求苛刻的用戶是絕對必要的。一級緩存是在CPU內的，用來存放內部指令，2級緩存和CPU封裝在一起，也是用來存放指令數據的，三級和四級緩存隻在高端的服務器CPU裡有，作用差不多，速度更快，更穩定，更有效 並不是緩存越大越好，譬如AMD和INTER就有不同的理論，AMD認為一級緩存越大越好，所以一級比較大，而INTER認為過大會有更長的指令執行時間，所以一級很小，二級緩存那兩個公司的理論又反過來瞭，AMD的小，INTER的大，一般主流的INTERCPU的2級緩存都在2M左右 我們通常用（L1，L2）來稱呼緩存又叫高速緩沖存儲器其作用在於緩解主存速度慢、跟不上CPU讀寫速度要求的矛盾。它的實現原理，是把CPU最近最可能用到的少量信息（數據或指令）從主存復制到CACHE中，當CPU下次再用這些信息時，它就不必訪問慢速的主存，而直接從快速的CACHE中得到，從而提高瞭得到這些信息的速度，使CPU有更高的運行效率。

總結

通過以上分析，我們可以得知Bean在一級緩存、二級緩存、三級緩存中的流轉順序為：三級緩存->二級緩存->一級緩存。但是並不是所有Bean都會經歷這個過程，例如對於原型Bean(Prototype)，IoC容器不會將其保存到任何一個緩存中的，另外即便是單例Bean(Singleton)，如果沒有循環引用關系，也不會被保存到二級緩存中的。

到此這篇關於關於Spring中一級緩存、二級緩存和三級緩存的那些事的文章就介紹到這瞭,更多相關Spring一級緩存、二級緩存和三級緩存內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！

推薦閱讀：