1、介紹
在本文中,我們來看看Caffeine ― 一個高性能的Java 緩存庫。
緩存和Map 之間的一個根本區別在於緩存可以回收存儲的item。
回收策略為在指定時間刪除哪些對象。此策略直接影響緩存的命中率― 緩存庫的一個重要特徵。
Caffeine 因使用Window TinyLfu 回收策略,提供了一個近乎最佳的命中率。
2、依賴
我們需要在pom.xml 中添加caffeine 依賴:
<dependency> <groupId>com.github.ben-manes.caffeine</groupId> <artifactId>caffeine</artifactId> <version>2.5.5</version></dependency>
您可以在Maven Central 上找到最新版本的caffeine。
3、填充緩存
讓我們來了解一下Caffeine 的三種緩存填充策略:手動、同步加載和異步加載。
首先,我們為要緩存中存儲的值類型寫一個類:
class DataObject { private final String data; private static int objectCounter = 0; // standard constructors/getters public static DataObject get(String data) { objectCounter++; return new DataObject(data); }}3.1、手動填充
在此策略中,我們手動將值放入緩存之後再檢索。
讓我們初始化緩存:
Cache<String, DataObject> cache = Caffeine.newBuilder() .expireAfterWrite(1, TimeUnit.MINUTES) .maximumSize(100) .build();
現在,我們可以使用getIfPresent 方法從緩存中獲取一些值。 如果緩存中不存在此值,則此方法將返回null:
String key = "A";DataObject dataObject = cache.getIfPresent(key); assertNull(dataObject);
我們可以使用put 方法手動填充緩存:
cache.put(key, dataObject);dataObject = cache.getIfPresent(key); assertNotNull(dataObject);
我們也可以使用get 方法獲取值,該方法將一個參數為key 的Function 作為參數傳入。如果緩存中不存在該鍵,則該函數將用於提供回退值,該值在計算後插入緩存中:
dataObject = cache .get(key, k -> DataObject.get("Data for A")); assertNotNull(dataObject);assertEquals("Data for A", dataObject.getData());get 方法可以原子方式執行計算。這意味著您只進行一次計算― 即使多個線程同時請求該值。這就是為什麼使用get 優於getIfPresent。
有時我們需要手動使一些緩存的值失效:
cache.invalidate(key);dataObject = cache.getIfPresent(key); assertNull(dataObject);
3.2、同步加載
這種加載緩存的方法使用了與用於初始化值的Function 相似的手動策略的get 方法。讓我們看看如何使用它。
首先,我們需要初始化緩存:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .maximumSize(100) .expireAfterWrite(1, TimeUnit.MINUTES) .build(k -> DataObject.get("Data for " + k));現在我們可以使用get 方法檢索值:
DataObject dataObject = cache.get(key); assertNotNull(dataObject);assertEquals("Data for " + key, dataObject.getData());我們也可以使用getAll 方法獲取一組值:
Map<String, DataObject> dataObjectMap = cache.getAll(Arrays.asList("A", "B", "C")); assertEquals(3, dataObjectMap.size());從傳遞給build 方法的底層後端初始化函數檢索值。 這使得可以使用緩存作為訪問值的主要門面(Facade)。
3.3、異步加載
此策略的作用與之前相同,但是以異步方式執行操作,並返回一個包含值的CompletableFuture:
AsyncLoadingCache<String, DataObject> cache = Caffeine.newBuilder() .maximumSize(100) .expireAfterWrite(1, TimeUnit.MINUTES) .buildAsync(k -> DataObject.get("Data for " + k));我們可以以相同的方式使用get 和getAll 方法,同時考慮到他們返回的是CompletableFuture:
String key = "A"; cache.get(key).thenAccept(dataObject -> { assertNotNull(dataObject); assertEquals("Data for " + key, dataObject.getData());}); cache.getAll(Arrays.asList("A", "B", "C")) .thenAccept(dataObjectMap -> assertEquals(3, dataObjectMap.size()));CompletableFuture 有許多有用的API,您可以在此文中獲取更多內容。
4、值回收
Caffeine 有三個值回收策略:基於大小,基於時間和參考。
4.1、基於大小回收
這種回收方式假定當超過配置的緩存大小限制時會發生回收。 獲取大小有兩種方法:緩存中計數對象,或獲取權重。
讓我們看看如何計算緩存中的對象。當緩存初始化時,其大小等於零:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .maximumSize(1) .build(k -> DataObject.get("Data for " + k)); assertEquals(0, cache.estimatedSize());當我們添加一個值時,大小明顯增加:
cache.get("A"); assertEquals(1, cache.estimatedSize());我們可以將第二個值添加到緩存中,這導致第一個值被刪除:
cache.get("B");cache.cleanUp(); assertEquals(1, cache.estimatedSize());值得一提的是,在獲取緩存大小之前,我們調用了cleanUp 方法。 這是因為緩存回收被異步執行,這種方法有助於等待回收的完成。
我們還可以傳遞一個weigher Function 來獲取緩存的大小:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .maximumWeight(10) .weigher((k,v) -> 5) .build(k -> DataObject.get("Data for " + k)); assertEquals(0, cache.estimatedSize()); cache.get("A");assertEquals(1, cache.estimatedSize()); cache.get("B");assertEquals(2, cache.estimatedSize());當weight 超過10 時,值將從緩存中刪除:
cache.get("C");cache.cleanUp(); assertEquals(2, cache.estimatedSize());4.2、基於時間回收
這種回收策略是基於條目的到期時間,有三種類型:
讓我們使用expireAfterAccess 方法配置訪問後過期策略:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .expireAfterAccess(5, TimeUnit.MINUTES) .build(k -> DataObject.get("Data for " + k));要配置寫入後到期策略,我們使用expireAfterWrite 方法:
cache = Caffeine.newBuilder() .expireAfterWrite(10, TimeUnit.SECONDS) .weakKeys() .weakValues() .build(k -> DataObject.get("Data for " + k));要初始化自定義策略,我們需要實現Expiry 接口:
cache = Caffeine.newBuilder().expireAfter(new Expiry<String, DataObject>() { @Override public long expireAfterCreate( String key, DataObject value, long currentTime) { return value.getData().length() * 1000; } @Override public long expireAfterUpdate( String key, DataObject value, long currentTime, long currentDuration) { return currentDuration; } @Override public long expireAfterRead( String key, DataObject value, long currentTime, long currentDuration) { return currentDuration; }}).build(k -> DataObject.get("Data for " + k));4.3、基於引用回收
我們可以將緩存配置為啟用緩存鍵值的垃圾回收。為此,我們將key 和value 配置為弱引用,並且我們可以僅配置軟引用以進行垃圾回收。
當沒有任何對對象的強引用時,使用WeakRefence 可以啟用對象的垃圾收回收。 SoftReference 允許對像根據JVM 的全局最近最少使用(Least-Recently-Used)的策略進行垃圾回收。有關Java 引用的更多詳細信息,請參見此處。
我們應該使用Caffeine.weakKeys()、Caffeine.weakValues() 和Caffeine.softValues() 來啟用每個選項:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .expireAfterWrite(10, TimeUnit.SECONDS) .weakKeys() .weakValues() .build(k -> DataObject.get("Data for " + k)); cache = Caffeine.newBuilder() .expireAfterWrite(10, TimeUnit.SECONDS) .softValues() .build(k -> DataObject.get("Data for " + k));5、刷新
可以將緩存配置為在定義的時間段後自動刷新條目。讓我們看看如何使用refreshAfterWrite 方法:
Caffeine.newBuilder() .refreshAfterWrite(1, TimeUnit.MINUTES) .build(k -> DataObject.get("Data for " + k));這裡我們應該要明白expireAfter 和refreshAfter 之間的區別。 當請求過期條目時,執行將發生阻塞,直到build Function 計算出新值為止。
但是,如果條目可以刷新,則緩存將返回一個舊值,並異步重新加載該值。
6、統計
Caffeine 有一種記錄緩存使用情況的統計方式:
LoadingCache<String, DataObject> cache = Caffeine.newBuilder() .maximumSize(100) .recordStats() .build(k -> DataObject.get("Data for " + k));cache.get("A");cache.get("A"); assertEquals(1, cache.stats().hitCount());assertEquals(1, cache.stats().missCount());我們也可能會傳入recordStats supplier,創建一個StatsCounter 的實現。每次與統計相關的更改將推送此對象。
7、結論
在本文中,我們熟悉了Java 的Caffeine 緩存庫。 我們看到瞭如何配置和填充緩存,以及如何根據我們的需要選擇適當的到期或刷新策略。
文中示例的源代碼可以在Github 上找到。
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持武林網。