三級緩存是指什么

我們常說的三級緩存如下：

• CPU三級緩存
• Spring三級緩存
• 應(yīng)用架構(gòu)（JVM、分布式緩存、db）三級緩存

CPU

基本概念

CPU 的訪問速度每 18 個月就會翻 倍，相當(dāng)于每年增? 60% 左右，內(nèi)存的速度當(dāng)然也會不斷增?，但是增?的速度遠小于 CPU，平均每年 只增? 7% 左右。于是，CPU 與內(nèi)存的訪問性能的差距不斷拉大。

為了彌補 CPU 與內(nèi)存兩者之間的性能差異，就在 CPU 內(nèi)部引入了 CPU Cache，也稱高速緩存。

CPU Cache 通常分為大小不等的三級緩存，分別是 L1 Cache、L2 Cache 和 L3 Cache。其中L3是多個核心共享的。

離 CPU 核心越近，緩存的讀寫速度就越快
但 CPU 的空間很狹小，離 CPU 越近緩存大小受到的限制也越大。

所以，綜合硬件布局、性能等因素，CPU 緩存通常分為大小不等的三級緩存。

• 三級緩存要比一、二級緩存大許多倍，這是因為當(dāng)下的 CPU 都是多核心的，
• 每個核心都有自己的一、二級緩存，
• 但三級緩存卻是一顆 CPU 上所有核心共享的
• 緩存一致性：在多核CPU時代，CPU有“緩存一致性”原則，也就是說每個處理器（核）都會通過嗅探在總線上傳播的數(shù)據(jù)來檢查自己的緩存值是不是過期了。如果過期了，則失效。
  • 比如聲明volitate，當(dāng)變量被修改，則會立即要求寫入系統(tǒng)內(nèi)存。

程序執(zhí)行數(shù)據(jù)流向

順序如下

• 先將內(nèi)存中的數(shù)據(jù)加載到共享的 L3 Cache 中，
• 再加載到每個核心獨有的 L2 Cache，
• 最后 進入到最快的 L1 Cache，之后才會被 CPU 讀取。
• 之間的層級關(guān)系，如下圖。

Spring三級緩存

概述

三級緩存就是在Bean生成流程中保存Bean對象三種形態(tài)的三個Map集合
]
這個三級緩存就是為了解決循環(huán)依賴

• 當(dāng)創(chuàng)建相互依賴的對象時，會形成死循環(huán)，例如下圖無緩存中的情況。

• 而Spring通過增加緩存，將未完全創(chuàng)建好的A提前暴露在緩存中，當(dāng)相互依賴的對象B對屬性A賦值時，可以直接從緩存中獲取A，而不需要再創(chuàng)建A。如下所示

哪三個緩存

Spring三級緩存機制包括以下三個緩存：

• singletonObjects：一級緩存，緩存中的bean是已經(jīng)創(chuàng)建完成的，該bean經(jīng)歷過實例化->屬性填充->初始化以及各種的后置處理。因此，一旦需要獲取bean時，會優(yōu)先尋找一級緩存
• ???????earlySingletonObjects：二級緩存，該緩存跟一級緩存的區(qū)別在于，該緩存所獲取到的bean是提前曝光出來的，是還沒創(chuàng)建完成的。也就是說獲取到的bean只能確保已經(jīng)進行了實例化，但是屬性填充跟初始化還沒有做完，因此該bean還沒創(chuàng)建完成，時半成品，僅僅能作為指針提前曝光，被其他bean所引用
• singletonFactories：三級緩存，在bean實例化完之后，屬性填充以及初始化之前，如果允許提前曝光，spring會將實例化后的bean提前曝光，也就是把該bean轉(zhuǎn)換成beanFactory并加入到三級緩存。在需要引用提前曝光對象時再通過singletonFactory.getObject()獲取。

// 一級緩存Map 存放完整的Bean（流程跑完的）
private final Map<String, Object> singletonObjects = new ConcurrentHashMap(256);
// 二級緩存Map 存放不完整的Bean（只實例化完，還沒屬性賦值、初始化）
private final Map<String, Object> earlySingletonObjects = new ConcurrentHashMap(16);
// 三級緩存Map 存放一個Bean的lambda表達式（也是剛實例化完）
private final Map<String, ObjectFactory<?>> singletonFactories = new HashMap(16);

發(fā)現(xiàn)兩個Bean循環(huán)依賴時

當(dāng)Spring發(fā)現(xiàn)兩個或更多個bean之間存在循環(huán)依賴關(guān)系時

• 它會先將其中一個beanA創(chuàng)建的過程中尚未完成的實例放入earlySingletonObjects緩存中，
• 然后將創(chuàng)建該beanA的工廠對象放入singletonFactories緩存中。
• 接著，Spring會暫停當(dāng)前bean的創(chuàng)建過程，去創(chuàng)建它所依賴的bean。
• 當(dāng)依賴的bean創(chuàng)建完成后，Spring會將其放入singletonObjects緩存中，并使用它來完成當(dāng)前bean的創(chuàng)建過程。
• 在創(chuàng)建當(dāng)前bean的過程中，如果發(fā)現(xiàn)它還依賴其他的bean，Spring會重復(fù)上述過程，直到所有bean的創(chuàng)建過程都完成為止。
• 注意：當(dāng)使用構(gòu)造函數(shù)注入方式時，循環(huán)依賴是無法解決的。
  • 因為在創(chuàng)建bean時，必須先創(chuàng)建它所依賴的bean實例，而構(gòu)造函數(shù)注入方式需要在創(chuàng)建bean實例時就將依賴的bean實例傳入構(gòu)造函數(shù)中。
  • 如果依賴的bean實例尚未創(chuàng)建完成，就無法將其傳入構(gòu)造函數(shù)中，從而導(dǎo)致循環(huán)依賴無法解決。
  • 此時，可以考慮使用setter注入方式來解決循環(huán)依賴問題。

當(dāng)A和B相互依賴時，若先創(chuàng)建實例A，則整個調(diào)用過程如下：

簡化圖如下

應(yīng)用架構(gòu)三級緩存

概述

應(yīng)用架構(gòu)三級緩存的時候，一般說JVM級別的、分布式緩存級別的、數(shù)據(jù)庫級別的

• JVM級別：一般常見本地緩存框架有Guava Cache和Caffeine Cache
• 分布式緩存級別：一般用的Redis。
• 數(shù)據(jù)庫級別：mysql等數(shù)據(jù)庫

眾所周知 MySQL 數(shù)據(jù)庫會將數(shù)據(jù)存儲在硬盤以防止掉電丟失，但是受制于硬盤的物理設(shè)計，即便是目前性能最好的企業(yè)級 SSD 硬盤，也比內(nèi)存的這種高速設(shè)備 IO 層面差一個數(shù)量級
典型的 “讀多寫少” 的場景，需要在設(shè)計上進行數(shù)據(jù)的讀寫分離，數(shù)據(jù)寫入時直接落盤處理，
而占比超過 90% 的數(shù)據(jù)讀取操作時則從以 Redis 為代表的內(nèi)存 NoSQL 數(shù)據(jù)庫提取數(shù)據(jù)，利用內(nèi)存的高吞吐瞬間完成數(shù)據(jù)提取，這里 Redis 的作用就是我們常說的緩存。

二級緩存架構(gòu)

二級緩存架構(gòu)

• 1級為本地緩存，或者進程內(nèi)的緩存（如 Ehcache） —— 速度快，進程內(nèi)可用
• ???????2級為集中式緩存（如 Redis）—— 可同時為多節(jié)點提供服務(wù)

?????????????? Java 的應(yīng)用端多級緩存

• 在 Java 的應(yīng)用端也要設(shè)計多級緩存，我們將進程內(nèi)緩存與分布式緩存服務(wù)結(jié)合，有效分?jǐn)倯?yīng)用壓力。
• 在 Java 應(yīng)用層面，只有 本地緩存（EhCache、Caffeine Cache） 的緩存不存在時，再去 Redis 分布式緩存獲取，
• 如果 Redis 也沒有此數(shù)據(jù)再去數(shù)據(jù)庫查詢，數(shù)據(jù)查詢成功后對 Redis 與 本地緩存 同時進行雙寫更新。
• 這樣 Java 應(yīng)用下一次再查詢相同數(shù)據(jù)時便直接從本地緩存提取，不再產(chǎn)生新的網(wǎng)絡(luò)通信，應(yīng)用查詢性能得到顯著提高。
• 為了保證緩存一致性，利用 通知（MQ、發(fā)布訂閱模式等） 向其他服務(wù)實例以及 Redis 緩存服務(wù)發(fā)起變更通知。

到此這篇關(guān)于三級緩存的文章就介紹到這了,更多相關(guān)三級緩存內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！