4.2 缓存策略与多级缓存：如何减少90%的数据库访问？
在高并发的分布式系统中，数据库往往是性能瓶颈之一。通过合理的缓存策略和多级缓存架构，我们可以显著减少数据库访问次数，提升系统响应速度和吞吐量。本节将深入探讨缓存策略的设计与实现，以及如何构建高效的多级缓存系统。
缓存基础概念
缓存的作用
缓存的主要作用是存储热点数据，减少对后端存储系统的访问压力，从而提高系统性能。合理的缓存策略可以带来以下好处：
- 提升响应速度：缓存数据通常存储在内存中，访问速度远快于磁盘数据库
- 降低数据库负载：减少数据库查询次数，提升数据库处理能力
- 提高系统吞吐量：并行处理更多请求
- 增强系统可用性：在数据库故障时提供降级服务
缓存策略
常见的缓存策略包括：
- Cache-Aside Pattern（旁路缓存）：应用代码负责维护缓存
- Read-Through/Write-Through：缓存层负责数据加载和存储
- Write-Behind：异步更新后端存储
本地缓存实现
本地缓存是存储在应用进程内的缓存，访问速度最快，但容量有限且无法共享。
// LocalCache 本地缓存typeLocalCachestruct{// 缓存数据datamap[string]*CacheItem// LRU链表lruList*list.List// 缓存键到链表元素的映射elementMapmap[string]*list.Element// 缓存容量capacityint// 互斥锁mutex sync.RWMutex// 统计信息stats*CacheStats}// CacheItem 缓存项typeCacheItemstruct{// 键Keystring// 值Valueinterface{}// 过期时间ExpireAt time.Time// 创建时间CreatedAt time.Time// 访问次数AccessCountint64}// CacheStats 缓存统计信息typeCacheStatsstruct{// 总请求数Requestsint64// 命中数Hitsint64// 未命中数Missesint64// 命中率HitRatefloat64// 删除数Evictionsint64}// NewLocalCache 创建本地缓存funcNewLocalCache(capacityint)*LocalCache{return&LocalCache{data:make(map[string]*CacheItem,capacity),lruList:list.New(),elementMap:make(map[string]*list.Element),capacity:capacity,stats:&CacheStats{},}}// Get 获取缓存项func(lc*LocalCache)Get(keystring)(interface{},bool){lc.mutex.RLock()deferlc.mutex.RUnlock()// 更新统计信息atomic.AddInt64(&lc.stats.Requests,1)// 查找缓存项item,exists:=lc.data[key]if!exists{atomic.AddInt64(&lc.stats.Misses,1)returnnil,false}// 检查是否过期if!item.ExpireAt.IsZero()&&time.Now().After(item.ExpireAt){// 删除过期项lc.mutex.RUnlock()lc.mutex.Lock()lc.deleteExpiredItem(key)lc.mutex.Unlock()lc.mutex.RLock()atomic.AddInt64(&lc.stats.Misses,1)returnnil,false}// 更新LRU链表ifelement,exists:=lc.elementMap[key];exists{lc.lruList.MoveToFront(element)item.AccessCount++}atomic.AddInt64(&lc.stats.Hits,1)returnitem.Value,true}// Set 设置缓存项func(lc*LocalCache)Set(keystring,valueinterface{},ttl time.Duration){lc.mutex.Lock()deferlc.mutex.Unlock()// 检查缓存是否已满iflen(lc.data)>=lc.capacity{// 淘汰最久未使用的项lc.evict()}// 创建缓存项item:=&CacheItem{Key:key,Value:value,CreatedAt:time.Now(),AccessCount:1,}ifttl>0{item.ExpireAt=time.Now().Add(ttl)}// 添加到缓存lc.data[key]=item// 添加到LRU链表element:=lc.lruList.PushFront(key)lc.elementMap[key]=element}// Delete 删除缓存项func(lc*LocalCache)Delete(keystring){lc.mutex.Lock()deferlc.mutex.Unlock()delete(lc.data,key)ifelement,exists:=lc.elementMap[key];exists{lc.lruList.Remove(element)delete(lc.elementMap,key)}}// evict 淘汰缓存项func(lc*LocalCache)evict(){// 从LRU链表尾部删除最久未使用的项ifelement:=lc.lruList.Back();element!=nil{key:=element.Value.(string)delete(lc.data,key)lc.lruList.Remove(element)delete(lc.elementMap,key)atomic.AddInt64(&lc.stats.Evictions,1)}}// deleteExpiredItem 删除过期项func(lc*LocalCache)deleteExpiredItem(keystring){delete(lc.data,key)ifelement,exists:=lc.elementMap[key];exists{lc.lruList.Remove(element)delete(lc.elementMap,key)}}// Stats 获取缓存统计信息func(lc*LocalCache)Stats()*CacheStats{lc.mutex.RLock()deferlc.mutex.RUnlock()requests:=atomic.LoadInt64(&lc.stats.Requests)hits:=atomic.LoadInt64(&lc.stats.Hits)hitRate:=0.0ifrequests>0{hitRate=float64(hits)/float64(requests)}return&CacheStats{Requests:requests,Hits:hits,Misses:atomic.LoadInt64(&lc.stats.Misses),HitRate:hitRate,Evictions:atomic.LoadInt64(&lc.stats.Evictions),}}// Clear 清空缓存func(lc*LocalCache)Clear(){lc
)
