本地缓存怎么选型？
👉 欢迎加入小哈的星球 ，你将获得: 专属的项目实战 / Java 学习路线 / 一对一提问 / 学习打卡 / 赠书福利
全栈前后端分离博客项目 2.0 版本完结啦， 演示链接：http://116.62.199.48/ ，新项目正在酝酿中。全程手摸手，后端 + 前端全栈开发，从 0 到 1 讲解每个功能点开发步骤，1v1 答疑，直到项目上线。目前已更新了239小节，累计38w+字，讲解图：1645张，还在持续爆肝中.. 后续还会上新更多项目，目标是将Java领域典型的项目都整一波，如秒杀系统, 在线商城, IM即时通讯，Spring Cloud Alibaba 等等，戳我加入学习，已有1100+小伙伴加入(早鸟价超低)
1、简介
最近在使用系统的时候，发现尽管应用已经使用了 redis 缓存提高查询效率，但是仍然有进一步优化的空间，于是想到了比分布式缓存性能更好的本地缓存，因此对领域内常用的本地缓存进行了一番调研，有早期的 Guava 缓存、在 Guava 上进一步传承的 Caffine 以及自称在 Java 中使用最广泛的 EhCache，那么我们该怎么选择适合自己应用的缓存呢，下面会简单介绍，并将以上缓存进行一个对比，希望帮助大家选择最适合自己系统的本地缓存。
2、Guava 缓存简介
Guava cache 是 Google 开发的 Guava 工具包中一套完善的 JVM 本地缓存框架，底层实现的数据结构类似于 ConcurrentHashMap，但是进行了更多的能力拓展，包括缓存过期时间设置、缓存容量设置、多种淘汰策略、缓存监控等，下面简单介绍下这些功能及其使用方式。
2.1、缓存过期时间设置
Guava 的过期时间设置有基于创建时间和最后一次访问时间两种策略.
(1) 基于创建时间
通过对比缓存记录的插入时间来判断，比如设置过期时间为 5 分钟，不管中间有没有访问，到时过期。
public Cache<String, String> createCache() {
return CacheBuilder.newBuilder()
.expireAfterWrite(5L, TimeUnit.MINUTES)
.build();
}
(2) 基于过期时间
通过对比最近最后一次的访问时间，比如设置 5 分钟，每次访问之后都会刷新过期时间为 5 分钟，只有持续 5 分钟没有被访问到才会过期。
public Cache<String, String> createCache() {
return CacheBuilder.newBuilder()
.expireAfterAccess(5L, TimeUnit.MINUTES)
.build();
}
2.2、缓存容量和淘汰策略设置
Guava cache 是内存型缓存，有内存溢出风险，因此需要设置缓存的最大存储上限，通过缓存的条数或每条缓存的权重来判断是否达到了设定阈值，当缓存的数据量达到设定阈值之后，Guava cache 支持使用 FIFO 和 LRU 的策略对缓存记录采取淘汰的措施。
（1）限制缓存记录条数
public Cache<String, User> createCache() {
return CacheBuilder.newBuilder()
.maximumSize(100L)
.build();
}
（2）限制缓存记录权重
public Cache<String, User> createCache() {
return CacheBuilder.newBuilder()
.maximumWeight(100L)
.weigher((key, value) -> (int) Math.ceil(instrumentation.getObjectSize(value) / 1024L))
.build();
}
使用限制缓存记录权重时要先计算 weight 的 value 对象的字节数，每 1kb 字节作为一个权重，对比限制缓存记录，我们就能将缓存的总占用限制在 100kb 左右。
2.3 缓存监控
缓存记录的加载和命中情况是评价缓存处理能力的重要指标，Guava cache 提供了 stat 统计日志对这两个指标进行了统计，我们只需要在创建缓存容器的时候加上 recordStats 就可以开启统计。
public Cache<String, User> createCache() {
return CacheBuilder.newBuilder()
.recordStats()
.build();
}
2.4 Guava cache 的优劣势和适用场景
优劣势：Guava cache 通过内存处理数据，具有减少 IO 请求，读写性能快的优势，但是受内存容量限制，只能处理少量数据的读写，还有可能对本机内存造成压力，并且在分布式部署中，会存在不同机器节点数据不一致的情况，即缓存漂移。
适用场景：读多写少，对数据一致性要求不高的场景。
3、Caffeine 简介
Caffeine 同样是 Google 开发的，是在 Guava cache 的基础上改良而来的，底层设计思路、功能和使用方式与 Guava 非常类似，但是各方面的性能都要远远超过前者，可以看做是 Guava cache 的升级版，因此，之前使用过 Guava cache，也能够很快的上手 Caffeine，下面是 Caffeine 和 Guava cache 的缓存创建对比，基本可以无门槛过渡。
public Cache<String, String> createCache() {
return Caffeine.newBuilder()
.initialCapacity(1000)
.maximumSize(100L)
.expireAfterWrite(5L, TimeUnit.MINUTES)
.recordStats()
.build();
}
public Cache<String, String> createCache() {
return CacheBuilder.newBuilder()
.initialCapacity(1000)
.maximumSize(100L)
.expireAfterWrite(5L, TimeUnit.MINUTES)
.recordStats()
.build();
}
那么 Caffeine 底层又做了哪些优化，才能让其性能高于 Guava cache 呢？主要包含以下三点：
3.1、对比 Guava cache 的性能主要优化项
（1）异步策略
Guava cache 在读操作中可能会触发淘汰数据的清理操作，虽然自身也做了一些优化来减少读的时候的清理操作，但是一旦触发，就会降低查询效率，对缓存性能产生影响。而在 Caffeine 支持异步操作，采用异步处理的策略，查询请求在触发淘汰数据的清理操作后，会将清理数据的任务添加到独立的线程池中进行异步操作，不会阻塞查询请求，提高了查询性能。
（2）ConcurrentHashMap 优化
Caffeine 底层都是通过 ConcurrentHashMap 来进行数据的存储，因此随着 Java8 中对 ConcurrentHashMap 的调整，数组 + 链表的结构升级为数组 + 链表 + 红黑树的结构以及分段锁升级为 syschronized+CAS，降低了锁的粒度，减少了锁的竞争，这两个优化显著提高了 Caffeine 在读多写少场景下的查询性能。
（3）新型淘汰算法 W-TinyLFU
传统的淘汰算法，如 LRU、LFU、FIFO，在实际的缓存场景中都存在一些弊端，如 FIFO 算法，如果缓存使用的频率较高，那么缓存数据会一直处在进进出出的状态，间接影响到缓存命中率。LRU 算法，在批量刷新缓存数据的场景下，可能会将其他缓存数据淘汰掉，从而带来缓存击穿的风险。LFU 算法，需要保存缓存记录的访问次数，带来内存空间的损耗。
因此，Caffeine 引入了 W-TinyLFU 算法，由窗口缓存、过滤器、主缓存组成。缓存数据刚进入时会停留在窗口缓存中，这个部分只占总缓存的 1%，当被挤出窗口缓存时，会在过滤器汇总和主缓存中淘汰的数据进行比较，如果频率更高，则进入主缓存，否则就被淘汰，主缓存被分为淘汰段和保护段，两段都是 LRU 算法，第一次被访问的元素会进入淘汰段，第二次被访问会进入保护段，保护段中被淘汰的元素会进入淘汰段，这种算法实现了高命中率和低内存占用。更详细的解释可以参考论文：https://arxiv.org/pdf/1512.00727.pdf
3.2、Caffeine 的优劣势和适用场景
优势：对比 Guava cache 有更高的缓存性能，劣势：仍然存在缓存漂移的问题；JDK 版本过低无法使用
适用场景：1、适用场景：读多写少，对数据一致性要求不高的场景；2、纯内存缓存，JDK8 及更高版本中，追求比 Guava cache 更高的性能。
4、Ehcache 简介
Guava cache 和 Caffeine 都是 JVM 缓存，会受到内存大小的制约，最新的 Ehcache 采用堆内缓存 + 堆外缓存 + 磁盘的方式，打破了这一制约。堆内缓存就是被 JVM 管理的那一部分缓存，而堆外缓存，就是在内存中另外在开辟一块不被 JVM 管理的部分。堆外缓存这部分既可以享受内存的高速读写能力，而且又避免的 JVM 频繁的 GC，缺点是需要自行清理数据。
下面是 Ehcache 缓存的创建，指定了堆内、堆外缓存和磁盘缓存的大小。
ResourcePoolsBuilder.newResourcePoolsBuilder()
.heap(20, MemoryUnit.MB)
.offheap(10, MemoryUnit.MB)
.disk(5, MemoryUnit.GB);
为了解决缓存漂移的问题，Ehcache 支持通过集群的方式，实现了分布式节点之间的数据互通。关于 Ehcache 的集群策略，后续文章再详细阐述。
5、不同本地缓存对比
| 框架 | 命中率 | 速度 | 回收算法 | 使用难度 | 集群 | 适用场景 |
|---|---|---|---|---|---|---|
| Guava cache | 中 | 第三 | LRU、LFU、FIFO | 易 | 不支持 | 读多写少，允许少量缓存偏移 |
| Caffeine | 高 | 第一 | W-TinyLFU | 易 | 不支持 | 读多写少，允许少量缓存偏移，能用 Caffeine 就别用 Guava cache |
| Ehcache | 中 | 第二 | LRU、LFU、FIFO | 中 | 支持 | 分布式系统中对数据一致性要求高 |
好书推荐
掌握AI大语言模型，开启智能应用新时代！
学会构建高质量的提示指令， 掌握利用人工智能工具的艺术， 成为与AI交流的高手
让Excel 365 & Excel 2021快速转化为生产力，创造价值！
《Excel 2019函数与公式应用大全》全新升级版， Excel Home多位微软全球MVP专家打造， 精选Excel Home海量案例， 披露Excel专家多年研究成果， 让你分分钟搞定海量数据运算
👉 欢迎加入小哈的星球 ，你将获得: 专属的项目实战 / Java 学习路线 / 一对一提问 / 学习打卡 / 赠书福利
全栈前后端分离博客项目 2.0 版本完结啦， 演示链接：http://116.62.199.48/ ，新项目正在酝酿中。全程手摸手，后端 + 前端全栈开发，从 0 到 1 讲解每个功能点开发步骤，1v1 答疑，直到项目上线。目前已更新了239小节，累计38w+字，讲解图：1645张，还在持续爆肝中.. 后续还会上新更多项目，目标是将Java领域典型的项目都整一波，如秒杀系统, 在线商城, IM即时通讯，Spring Cloud Alibaba 等等，戳我加入学习，已有1100+小伙伴加入(早鸟价超低)
1. 我的私密学习小圈子~
3. Jackson 用起来！
最近面试BAT，整理一份面试资料《Java面试BATJ通关手册》，覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。
获取方式：点“在看”，关注公众号并回复 Java 领取，更多内容陆续奉上。
PS：因公众号平台更改了推送规则，如果不想错过内容，记得读完点一下“在看”，加个“星标”，这样每次新文章推送才会第一时间出现在你的订阅列表里。
点“在看”支持小哈呀，谢谢啦