SpringBoot通过refresh-ahead caching加速微服务性能

19-05-31 banq
                   

在设计微服务架构时,我们可能会遇到不同的性能问题。像Akka这样的反应性框架提供了一种使微服务更具弹性的方法。但是,在处理耗时的算法或缓慢的依赖系统时,缓存可能是我们的最后手段,尽管它会带来权衡。数据通常已过时,但可提供性能提升。

解决此问题的方法是Refresh-Ahead Caching,在提供性能提升的同时,它还提供了最新的数据。缓存由微服务异步重新加载,而客户端仅访问快速缓存资源。您可以在Spring Boot项目中使用cache-refresh-ahead-spring-boot-starter启用Refresh-Ahead Caching ,它是一个运行的调度程序,刷新缓存并支持Caffeine和Redis。您可以为所有缓存指定刷新间隔,也可以仅为特定缓存指定刷新间隔。

为了最小化缓存键的大小,它使用类名,方法名和参数类。它解析了这些属性并解开了CGLIB代理Bean。通常,当您向方法添加@Cacheable注释时,该类将包装在CGLIB代理Bean中。但是,此代理仅在其他类中可见。因此,您无法为私有方法启用缓存。这种解包允许调度程序在实际的Bean上调用该方法,而不会触及缓存。缓存的值在较低级别时更新,因此它们不会覆盖写入时间。

当使用位于微服务中的缓存并水平扩展时,您应该知道您的缓存是分散的。您可能会遇到缓存数据过于分散且客户端访问刷新缓存源的可能性较低的问题;您可能遇到的另一个问题是大量的微服务刷新缓存并耗尽后端。此外,如果使用@CachPut,则缓存一致性可能会成为问题。因此,我建议仅在冗余微服务量较少时才使用本地缓存。

高度冗余的微服务应使用共享的Redis缓存。刷新逻辑也应该与执行的微服务分开。例如,使用此方法,您可以执行10个访问缓存的微服务和3个(用于冗余)只刷新缓存的微服务,因此您不必担心耗尽后端或分散的缓存。

该文介绍了如何使用Redis来实现分布式系统中的并发控制。使用Redis来控制缓存的刷新率。Redis是一个内存数据存储,速度极快。它还具有原子属性,这使得它非常适合为并发控制创建锁和信号量,使用Redis让一个进程每90秒刷新一次缓存。效果立竿见影,激动人心,令人难以置信:API请求从每90秒约6,000个减少到一个。