使用缓存（如Caffeine）时，如何配置过期策略（如基于时间、基于大小）以平衡内存使用和命中率？ 缓存穿透和雪崩应如何预防？

Question

使用缓存（如Caffeine）时，如何配置过期策略（如基于时间、基于大小）以平衡内存使用和命中率？ 缓存穿透和雪崩应如何预防？

Answer 1

下午好🌅🌅🌅
本答案参考通义千问

在使用缓存（如 Caffeine）时，合理配置过期策略、平衡内存使用和命中率，以及预防缓存穿透和雪崩问题，是提升系统性能和稳定性的关键。以下将从几个方面详细解答：

---

一、如何配置 Caffeine 的过期策略以平衡内存使用和命中率？

1. 基于时间的过期策略

Caffeine 支持两种基于时间的过期方式：

• expireAfterWrite：写入后过期
• expireAfterAccess：最后一次访问后过期

配置示例：

import com.github.benmanes.caffeine.cache.Caffeine;

Cache<String, String> cache = Caffeine.newBuilder()
    .maximumSize(1000) // 设置最大缓存条目数
    .expireAfterWrite(10, TimeUnit.MINUTES) // 写入后10分钟过期
    .expireAfterAccess(5, TimeUnit.MINUTES) // 最后一次访问后5分钟过期
    .build();

重点说明：

• expireAfterWrite 更适合数据更新频率较低的场景，例如静态数据或定期刷新的数据。
• expireAfterAccess 更适合频繁访问的数据，可以延长活跃数据的生命周期。

平衡建议：

• 根据业务场景选择合适的过期时间，避免频繁清理缓存影响性能。
• 如果数据热点明显，可适当延长 expireAfterAccess 时间。

---

2. 基于大小的过期策略

Caffeine 提供了 maximumSize 和 maximumWeight 来控制缓存的最大容量。

配置示例：

Cache<String, String> cache = Caffeine.newBuilder()
    .maximumSize(1000) // 最大缓存条目数为1000
    .build();

重点说明：

• maximumSize 控制缓存中最多保存多少个键值对。
• 当缓存超过此限制时，Caffeine 会根据 LRU（最近最少使用）算法自动淘汰旧数据。

平衡建议：

• 根据实际内存资源设置合理的 maximumSize。
• 若内存紧张，可降低该值；若命中率低，可适当提高。

---

二、如何预防缓存穿透和雪崩？

1. 缓存穿透（Cache Penetration）

问题描述：

请求查询一个不存在的数据，导致每次都要查询数据库，缓存无法发挥作用。

解决方案：

1. 布隆过滤器（Bloom Filter）
   在缓存前增加一层布隆过滤器，用于快速判断数据是否存在，防止无效请求进入数据库。

2. 缓存空值（Null Caching）
   对于查询不到结果的请求，也缓存一个空值，并设置较短的过期时间。

   String value = cache.get(key);
   if (value == null) {
       value = queryFromDB(); // 查询数据库
       if (value == null) {
           cache.put(key, "null", 5, TimeUnit.MINUTES); // 缓存空值
       }
   }
   

3. 接口限流与校验
   在网关或服务层对请求进行校验，防止恶意请求冲击缓存。

---

2. 缓存雪崩（Cache Avalanche）

问题描述：

大量缓存同时失效，导致数据库压力骤增，甚至崩溃。

解决方案：

1. 设置随机过期时间
   为每个缓存项设置不同的过期时间，避免同一时间点大量缓存失效。

   int randomExpireTime = new Random().nextInt(60); // 0~59分钟
   cache.put(key, value, randomExpireTime, TimeUnit.MINUTES);
   

2. 缓存预热
   在系统启动或高峰来临前，提前加载热点数据到缓存中，减少突发流量对缓存的冲击。

3. 降级机制
   在缓存失效时，允许部分请求直接访问数据库，但需要做限流和熔断处理。

4. 多级缓存架构
   使用本地缓存（如 Caffeine） + 分布式缓存（如 Redis）结合，降低单点故障风险。

---

三、总结：配置 Caffeine 缓存的最佳实践

✅ 配置建议：

1. 设置最大容量：.maximumSize(1000)
2. 设置过期时间：.expireAfterWrite(10, TimeUnit.MINUTES) 或 .expireAfterAccess(5, TimeUnit.MINUTES)
3. 使用异步加载（如果适用）：.refreshAfterWrite(1, TimeUnit.MINUTES)，实现懒加载
4. 结合布隆过滤器/空值缓存：防止缓存穿透
5. 避免统一过期时间：使用随机时间或分段过期策略，防止缓存雪崩

---

四、代码示例（优化后的 Caffeine 配置）

import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;

import java.util.concurrent.TimeUnit;

public class CacheManager {

    private static final Cache<String, String> CACHE = Caffeine.newBuilder()
        .maximumSize(1000) // 最大缓存条目数
        .expireAfterWrite(10, TimeUnit.MINUTES) // 写入后10分钟过期
        .expireAfterAccess(5, TimeUnit.MINUTES) // 最后一次访问后5分钟过期
        .build();

    public static String get(String key) {
        String value = CACHE.getIfPresent(key);
        if (value == null) {
            // 模拟从数据库获取数据
            value = fetchDataFromDB(key);
            if (value != null) {
                CACHE.put(key, value);
            } else {
                // 缓存空值，防止穿透
                CACHE.put(key, "null", 5, TimeUnit.MINUTES);
            }
        }
        return value;
    }

    private static String fetchDataFromDB(String key) {
        // 实际业务中调用数据库
        return "data_" + key;
    }
}

---

五、结论

• 配置 Caffeine 时，应结合时间与大小策略，合理设置缓存容量和过期时间。
• 缓存穿透可通过布隆过滤器或空值缓存解决。
• 缓存雪崩可通过随机过期时间、预热、多级缓存等手段应对。

如有更多具体业务场景，可以进一步细化配置策略。