本地緩存之王,Caffeine 最強講解!
結(jié)論:Caffeine 是目前性能最好的本地緩存,因此,在考慮使用本地緩存時,直接選擇 Caffeine 即可。
先看一個小例子,明白如何創(chuàng)建一個 Caffeine 緩存實例。
Caffeine 相當于一個緩存工廠,可以創(chuàng)建出多個緩存實例 Cache。這些緩存實例都繼承了 Caffeine 的參數(shù)配置,Caffeine 是如何配置的,這些緩存實例就具有什么樣的特性和功能。
1. Caffeine 可以設(shè)置哪些緩存屬性呢?
1. 緩存初始容量
initialCapacity :整數(shù),表示能存儲多少個緩存對象。
為什么要設(shè)置初始容量呢?因為如果提前能預(yù)估緩存的使用大小,那么可以設(shè)置緩存的初始容量,以免緩存不斷地進行擴容,致使效率不高。
2. 最大容量 最大權(quán)重
maximumSize :最大容量,如果緩存中的數(shù)據(jù)量超過這個數(shù)值,Caffeine 會有一個異步線程來專門負責(zé)清除緩存,按照指定的清除策略來清除掉多余的緩存。注意:比如最大容量是 2,此時已經(jīng)存入了2個數(shù)據(jù)了,此時存入第3個數(shù)據(jù),觸發(fā)異步線程清除緩存,在清除操作沒有完成之前,緩存中仍然有3個數(shù)據(jù),且 3 個數(shù)據(jù)均可讀,緩存的大小也是 3,只有當緩存操作完成了,緩存中才只剩 2 個數(shù)據(jù),至于清除掉了哪個數(shù)據(jù),這就要看清除策略了。
maximumWeight:最大權(quán)重,存入緩存的每個元素都要有一個權(quán)重值,當緩存中所有元素的權(quán)重值超過最大權(quán)重時,就會觸發(fā)異步清除。下面給個例子。
運行結(jié)果:
要使用權(quán)重來衡量的話,就要規(guī)定權(quán)重是什么,每個元素的權(quán)重怎么計算,weigher 方法就是設(shè)置權(quán)重規(guī)則的,它的參數(shù)是一個函數(shù),函數(shù)的參數(shù)是 key 和 value,函數(shù)的返回值就是元素的權(quán)重,比如上述代碼中,caffeine 設(shè)置了最大權(quán)重值為 30,然后將每個 Person 對象的 age 年齡作為權(quán)重值,所以整個意思就是:緩存中存儲的是 Person 對象,但是限制所有對象的 age 總和不能超過 30,否則就觸發(fā)異步清除緩存。
特別要注意一點:最大容量 和 最大權(quán)重 只能二選一作為緩存空間的限制。
3. 緩存狀態(tài)
3.1 默認的緩存狀態(tài)收集器 CacheStats
默認情況下,緩存的狀態(tài)會用一個 CacheStats 對象記錄下來,通過訪問 CacheStats 對象就可以知道當前緩存的各種狀態(tài)指標,那究竟有哪些指標呢?
先說一下什么是“加載”,當查詢緩存時,緩存未命中,那就需要去第三方數(shù)據(jù)庫中查詢,然后將查詢出的數(shù)據(jù)先存入緩存,再返回給查詢者,這個過程就是加載。
totalLoadTime:總共加載時間。
loadFailureRate:加載失敗率,= 總共加載失敗次數(shù) / 總共加載次數(shù)
averageLoadPenalty :平均加載時間,單位-納秒
evictionCount:被淘汰出緩存的數(shù)據(jù)總個數(shù)
evictionWeight:被淘汰出緩存的那些數(shù)據(jù)的總權(quán)重
hitCount:命中緩存的次數(shù)
hitRate:命中緩存率
loadCount:加載次數(shù)
loadFailureCount:加載失敗次數(shù)
loadSuccessCount:加載成功次數(shù)
missCount:未命中次數(shù)
missRate:未命中率
requestCount:用戶請求查詢總次數(shù)
CacheStats 類包含了 2 個方法,了解一下:
CacheStats minus(@Nonnull CacheStats other):當前 CacheStats 對象的各項指標減去參數(shù) other 的各項指標,差值形成一個新的 CacheStats 對象。
CacheStats plus(@Nonnull CacheStats other):當前 CacheStats 對象的各項指標加上參數(shù) other 的各項指標,和值形成一個新的 CacheStats 對象。
舉個例子說明:
3.2 自定義的緩存狀態(tài)收集器
自定義的緩存狀態(tài)收集器的作用:每當緩存有操作發(fā)生時,不管是查詢,加載,存入,都會使得緩存的某些狀態(tài)指標發(fā)生改變,哪些狀態(tài)指標發(fā)生了改變,就會自動觸發(fā)收集器中對應(yīng)的方法執(zhí)行,如果我們在方法中自定義的代碼是收集代碼,比如將指標數(shù)值發(fā)送到 kafka,那么其它程序從kafka讀取到數(shù)值,再進行分析與可視化展示,就能實現(xiàn)對緩存的實時監(jiān)控了。
收集器接口為 StatsCounter ,我們只需實現(xiàn)這個接口的所有抽象方法即可。下面舉例說明。
上述代碼為自定義的緩存狀態(tài)收集器,收集到的狀態(tài)指標只是簡單地打印出來,snapshot 方法有什么作用,暫時不清楚。
特別需要注意的是:收集器中那些方法得到的狀態(tài)值,只是當前緩存操作所產(chǎn)生的結(jié)果,比如當前 cache.getIfPresent() 查詢一個值,查詢到了,說明命中了,但是 recordHits(int i) 方法的參數(shù) i = 1,因為本次操作命中了 1 次。
再將收集器與某個緩存掛鉤,如下:
最后的執(zhí)行結(jié)果為:
4. 線程池
Caffeine 緩沖池總有一些異步任務(wù)要執(zhí)行,所以它包含了一個線程池,用于執(zhí)行這些異步任務(wù),默認使用的是 ForkJoinPool.commonPool() 線程池,個人覺得沒有必要去自定義線程池,或者使用其它的線程池,因為 Caffeine 的作者在設(shè)計的時候就考慮了線程池的選擇,既然別人選擇了,就有一定道理。
如果一定要用其它的線程池,可以通過 executor() 方法設(shè)置,方法參數(shù)是一個 線程池對象。
5. 數(shù)據(jù)過期策略
5.1 expireAfterAccess
最后一次訪問之后,隔多久沒有被再次訪問的話,就過期。訪問包括了 讀 和 寫。舉個例子:
運行結(jié)果:
expireAfterAccess 包含兩個參數(shù),第二個參數(shù)是時間單位,第一個參數(shù)是時間大小,比如上述代碼中設(shè)置過期時間為 2 秒,在過了 3 秒之后,再次訪問數(shù)據(jù),發(fā)現(xiàn)數(shù)據(jù)不存在了,即觸發(fā)過期清除了。
5.2 expireAfterWrite
某個數(shù)據(jù)在多久沒有被更新后,就過期。舉個例子
運行結(jié)果:
只能是被更新,才能延續(xù)數(shù)據(jù)的生命,即便是數(shù)據(jù)被讀取了,也不行,時間一到,也會過期。
5.2 expireAfter
實話實說,關(guān)于這個設(shè)置項,官網(wǎng)沒有說明白,網(wǎng)上其它博客更是千篇一律,沒有一個講明白的。此處簡單講講我個人的測試用例與理解,如果有誤,歡迎評論指正。
expireAfter 方法的參數(shù)是一個 Expiry 對象,Expiry 是一個接口,上述代碼用了匿名類。需要實現(xiàn) Expiry 的三個方法。
expireAfterCreate(String s, Person person, long l) :此方法為數(shù)據(jù)<s , person> 創(chuàng)建之后,過期時間是多久(可以理解為生命周期),單位為納秒,方法的返回值就是過期時間,這個時間設(shè)置為多久,怎么設(shè)置,可以自定義的,比如上述代碼,60 歲以上的過期時間為 4 秒,如果 4 秒內(nèi)數(shù)據(jù)沒有被操作,就過期。另外還有一個參數(shù) long l,l 表示創(chuàng)建時間的系統(tǒng)時間戳,單位為納秒。
expireAfterUpdate(String s, Person person, long l, long l1):此方法表示更新某個數(shù)據(jù)后,過期時間是多久(刷新生命周期),個人認為:參數(shù) l 表示更新前的系統(tǒng)時間戳,l1 表示更新成功后的系統(tǒng)時間戳,因為在多線程下,更新操作可能會阻塞。
expireAfterRead(String s, Person person, long l, long l1) :與 expireAfterUpdate 同理。
6. refreshAfterWrite 延遲刷新
refreshAfterWrite(long duration, TimeUnit unit)
寫操作完成后多久才將數(shù)據(jù)刷新進緩存中,兩個參數(shù)只是用于設(shè)置時間長短的。
只適用于 LoadingCache 和 AsyncLoadingCache,如果刷新操作沒有完成,讀取的數(shù)據(jù)只是舊數(shù)據(jù)。
同理,不想寫了。
7. removalListener 清除、更新監(jiān)聽
當緩存中的數(shù)據(jù)發(fā)送更新,或者被清除時,就會觸發(fā)監(jiān)聽器,在監(jiān)聽器里可以自定義一些處理手段,比如打印出哪個數(shù)據(jù)被清除,原因是什么。這個觸發(fā)和監(jiān)聽的過程是異步的,就是說可能數(shù)據(jù)都被刪除一小會兒了,監(jiān)聽器才監(jiān)聽到。舉個例子:
運行結(jié)果:
removalListener 方法的參數(shù)是一個 RemovalListener 對象,但是可以函數(shù)式傳參,如上述代碼,當數(shù)據(jù)被更新或者清除時,會給監(jiān)聽器提供三個內(nèi)容,(鍵,值,原因)分別對應(yīng)代碼中的三個參數(shù),(鍵,值)都是更新前,清除前的舊值, 這樣可以了解到清除的詳細了。
清除的原因有 5 個,存儲在枚舉類 RemovalCause 中:
EXPLICIT :表示顯式地調(diào)用刪除操作,直接將某個數(shù)據(jù)刪除。
REPLACED:表示某個數(shù)據(jù)被更新。
EXPIRED:表示因為生命周期結(jié)束(過期時間到了),而被清除。
SIZE:表示因為緩存空間大小受限,總權(quán)重受限,而被清除。
COLLECTED :這個不明白。
8. 緩存的數(shù)據(jù)使用弱引用,軟引用
AsyncCache 緩存不支持軟引用和弱引用。
weakKeys():將緩存的 key 使用弱引用包裝起來,只要 GC 的時候,就能被回收。
weakValues():將緩存的 value 使用弱引用包裝起來,只要 GC 的時候,就能被回收。
softValues():將緩存的 value使用軟引用包裝起來,只要 GC 的時候,有必要,就能被回收。
關(guān)于軟引用,弱引用,強引用,虛引用,可以參考:https://blog.csdn.net/dgh112233/article/details/107288545
因此,弱引用 ,軟引用的設(shè)置,只是為了方便回收空間,節(jié)省空間,但是使用的時候注意一點,緩存查詢時,是用 == 來判斷兩個 key 是否相等,比較的是地址,不是 key 本身的內(nèi)容,很容易造成一種現(xiàn)象:命名 key 是對的,但就是無法命中,因為 key 的內(nèi)容相等,但是地址卻不同,會被認為是兩個 key。
9. 時間源 ticker
不了解,感覺默認用系統(tǒng)的時鐘就好了。
10. 同步監(jiān)聽器
之前的removalListener 是異步監(jiān)聽,此處的 writer 方法可以設(shè)置同步監(jiān)聽器,同步監(jiān)聽器一個實現(xiàn)了接口 CacheWriter 的實例化對象,我們需要自定義接口的實現(xiàn)類,比如:
關(guān)鍵是要實現(xiàn) CacheWriter 接口的兩個方法,當新增,更新某個數(shù)據(jù)時,會同步觸發(fā) write 方法的執(zhí)行。當刪除某個數(shù)據(jù)時,會觸發(fā) delete 方法的執(zhí)行。
運行結(jié)果:
2. Cache 可以有的操作
VgetIfPresent(K key) :如果緩存中 key 存在,則獲取 value,否則返回 null。
void put( K key, V value):存入一對數(shù)據(jù) <key, value>。
Map<K, V> getAllPresent(Iterable var1) :參數(shù)是一個迭代器,表示可以批量查詢緩存。? void putAll( Map var1); 批量存入緩存。? void invalidate(K var1):刪除某個 key 對應(yīng)的數(shù)據(jù)。? void invalidateAll(Iterable var1):批量刪除數(shù)據(jù)。
void invalidateAll():清空緩存。
long estimatedSize():返回緩存中數(shù)據(jù)的個數(shù)。
CacheStats stats():返回緩存當前的狀態(tài)指標集。
ConcurrentMap<K, V> asMap():將緩存中所有的數(shù)據(jù)構(gòu)成一個 map。
void cleanUp():會對緩存進行整體的清理,比如有一些數(shù)據(jù)過期了,但是并不會立馬被清除,所以執(zhí)行一次 cleanUp 方法,會對緩存進行一次檢查,清除那些應(yīng)該清除的數(shù)據(jù)。
Vget( K var1, Function<? super K, ? extends V> var2):第一個參數(shù)是想要獲取的 key,第二個參數(shù)是函數(shù),例子如下:
可以著重考慮一下第二個參數(shù)的寫法,如果寫成從數(shù)據(jù)庫查詢的話,那就很完整了。
還有另外兩種緩存:LoadingCache, AsyncLoadingCache。
來源:blog.csdn.net/dgh112233/article/details/118915259