【Redis】缓存+分布式锁

目录

缓存

Redis最主要的使用场景就是作为缓存

缓存的更新策略:

1.定期生成

2.实时生成

面试重点:

缓存预热(Cache preheating):

缓存穿透(Cache penetration)

缓存雪崩 (Cache avalanche)

缓存击穿 (Cache breakdown)

分布式锁 

分布式锁的基本实现:

引入过期时间:

引入校验Id:

引入lua脚本:

引入watch dog(看门狗)

引入Redlock算法:


缓存

核心思路就是把⼀些常见的数据放到触手可及(访问速度更快)的地方, 方便随时读取.

访问速度特别的快,但由于存储空间是有限的,所有我们只能存储“热点数据”(频繁访问的数据)在Redis中
俗称“二八定律”:20%的热点数据,可以应对80%的应用场景,从而整体上的性能得到提升


Redis最主要的使用场景就是作为缓存

对应MySQL这种访问硬盘的数据库,Redis是内存数据库,Redis用做为MySQL的缓存

为什么MySQL性能不高?

1.首先数据存储在硬盘上,硬盘IO需要花费大量时间,尤其是随机访问;

2.如果查询中不能命中索引,那么将需要表的遍历,大大增加硬盘IO的次数

3.对应执行SQL需要一系列的解析,校验等等工作

4.如果是一些复杂查询,例如联合查询,笛卡尔积之类的操作效率会很低...............

如果数据库并发量特别高,那么它将会可能出现宕机(出现故障,罢工了,不做了)的情况

如何解决?

1.开源:增加多个设备,部署更多的数据库机器,构成数据库集群

2.节流:引入缓存,访问的时候尽量访问缓存内的数据,从而降低直接访问数据库的请求数量

实际开发中,往往是俩种方法结合起来使用

Redis为什么可以作为MySQL的缓存:

Redis访问速度比MySQL快很多,并且处理一个访问请求,Redis消耗的资源比MySQL少很多,因此Redis支持更大的并发量:

1.Redis数据在内存,并且访问速度比硬盘快很多

2.Redis只支持简单的KEY-VALUE 存储,不涉及很多复杂查询方法手段

业务服务器先查询 Redis, 看想要的数据是否在 Redis 中存在.

  • 如果已经在 Redis 中存在了, 就直接返回. 此时不必访问 MySQL 了.
  • 如果在 Redis 中不存在, 再查询 MySQL.


缓存的更新策略:

一个重要问题:那么多数据,哪些数据才是我们需要的热点数据呢?

1.定期生成

会将所有访问的数据,以日志的形式给记录下来,最后挑选出频率前%N的数据作为“热点数据”;

此处的数据,可以按照每天/周/月去更新热点数据 

2.实时生成

  • 如果在Redis查找到了,那么将直接返回
  • 如果在Redis没有查找到,那么从数据库查找,查找完并且写入Redis中

那么经过这样一段时间内,缓存的数据肯定会存储满,那么Redis也引入了对应的策略--------------内存淘汰机制:

通用的淘汰机制有以下机制:

  • FIFO (First In First Out) 先进先出 
    把缓存中存在时间最久的 (也就是先来的数据) 淘汰掉.  

     
  • LRU (Least Recently Used) 淘汰最久未使⽤的 
    记录每个 key 的最近访问时间. 把最近访问时间最⽼的 key 淘汰掉.  

     
  • LFU (Least Frequently Used) 淘汰访问次数最少的 
    记录每个 key 最近⼀段时间的访问次数. 把访问次数最少的淘汰掉.  

     
  • Random 随机淘汰 
    从所有的 key 中抽取幸运⼉被随机淘汰掉.  

 在Redis中已经实现好了以上类似机制:

整体来说 Redis 提供的策略和我们上述介绍的通用策略是基本⼀致的. 只不过 Redis 这里会针对 "过期 key" 和 "全部 key" 做分别处理.

面试重点:

缓存预热(Cache preheating):

1.定期生成的数据这种情况不涉及缓存预热;

2.实时生成:
Redis服务器首次接入连接之后是没有数据的,此时所有的请求将在MySQL中(就怕此时MySQL没有抗住这么多请求挂了),那么随之时间的推移,Redis上的数据慢慢越来越多,MySQL承担的压力就会小很多;

缓存预热就是解决上述问题:
将定期生成和实时生成结合一下,先通过“离线”的方式,通过统计的途径,先找到一些热点数据(这些数据并一定精准,有就行)导入到Redis中,就能帮助MySQL承担很大的压力,随之时间的推移,热点数据会逐渐调整,来使用当前情况;


缓存穿透(Cache penetration)

在查询某个key的时候,在Redis中没有,在MySQL中也没有,那么这么key肯定不会更新到Redis中~ 
但是这个查询没有,接连着查询了多次,依然会给MySQL造成一些压力;

为什么出现这种情况?

  • 业务设计不合理. 比如缺少必要的参数校验环节, 导致非法的 key 也被进行查询了.
  • 开发/运维误操作. 不小心把部分数据从数据库上误删了.
  • 黑客恶意攻击.

解决:

  • 针对要查询的参数进行严格的合法性校验. 比如要查询的 key 是用户的手机号, 那么就需要校验当前key 是否满足一个合法的手机号的格式.
  • 针对数据库上也不存在的 key , 也存储到 Redis 中,比如 value 就随便设成一个 "". 避免后续频繁访问数据库
  • 使用布隆过滤器先判定 key 是否存在, 再真正查询.

缓存雪崩 (Cache avalanche)

在短时间内,Redis上大规模的key失效,导致缓存命中率陡然下降,让MySQL的压力迅游变大,导致宕机~

为何产生?

1.Redis挂了

2.Redis没有挂,但是可能之前给很多key设置的过期时间相同,一下子全过期自动删除了

解决:

  • 部署高可用的 Redis 集群, 并且完善监控报警体系.
  • 不给 key 设置过期时间 或者 设置过期时间的时候添加随机时间因子.

缓存击穿 (Cache breakdown)

相当于缓存雪崩的特殊情况,针对Redis热点key全部过期了,导致大量的请求直接访问到MySQ中,引起数据库宕机

  • 基于统计的方式发现热点 key, 并设置永不过期.
  • 进行必要的服务降级. 例如访问数据库的时候使用分布式锁, 限制同时请求数据库的并发数.

分布式锁 

在一个分布式系统当中,会涉及到多个节点访问同一个公共资源的情况下,此时就需要通过“锁”来进行互斥,避免出现“线程安全”的问题;

像Java中的synchronized 这种锁只能在当前进程中生效,在分布式这种多个进程多个主机的场景下就不能使用了‘;

分布式锁的基本实现:

实现思路:通过设置一个键值对来标识锁的状态

举例买票的例子:

此时客户端1查询001车 还有1张车票 在即将执行1->0 过程前

客户端2也执行查询余票 发现还有一张,那么客户端2也执行1->0

那么这出现“超卖” 的情况,俩个人都买到票


加锁:

此时, 如果 买票服务器1 尝试买票, 就需要先访问 Redis, 在 Redis 上设置⼀个键值对. 比如 key 就是车次, value 随便设置个值 (比如 1).

        如果发现操作成功,那么就可以视为当前没有节点对001车次加锁,那么就可以进行数据库的读写,操作完成之后,就可以吧这个key删除(相当于解锁)

        如果服务器1在操作数据库时候,服务器2也想买票,那么它在给Redis新增key的时候,就会发现此时车次的key已经存在,就可以认为其他服务器此时正在持有锁,那么服务器2就可以等待或者放弃~

Redis中的setnx刚刚好就行对应此场景:当key不存在才可以创建成功,如果存在那么将失败 ~

此时如果某个服务器加锁成功,但意外发生了,服务器崩溃了没有执行解锁操作(删除操作),那么就导致其他服务器没有获取到锁;

引入过期时间:

可以设置key的过期时间,让这个锁持有多久,如果超过一定时间,那么将自动释放;

使用set ex nx 命令,在设置锁的同时加入过期时间;

注意这是一条命令

不能写成 setnx

                expire

此时是俩条命令,就有可能造成原子性,仍然会出现无法正确释放锁的问题


所谓的加锁就是在Redis上执行setnx生成一个key
解锁就是删除这个key

那么有没有可能会出现服务器1执行了加锁操作,而服务器2执行了解锁?
那么是有可能的

引入校验Id:

需要引入一点校验机制:

1.给服务器编号,每个服务器有一个自己的身份标识

2.进行加锁的时候,设置key-value 对应要针对的哪个资源加锁(比如车次),value存储刚才服务器的编号 例如“001:1” ->“001:服务器1”

这样就可以在删除key的时候,校验当前的key是否是当初加锁的服务器,避免删除错误~


在解锁的时候:
1.先查询判断是否删除 2. 才进行删除

此时这个是俩步操作,并不是原子的,就有可能出现问题

引入lua脚本:

很多程序里面都支持内嵌脚本语音.Redis支持Lua语音作为内嵌脚本~

if redis.call('get',KEYS[1]) == ARGV[1] then
return redis.call('del',KEYS[1])
else
1 2 3return 0
end;

过期时间续约问题可能存在,

在给key加锁的时候,设置它的过期时间,那么设置多久呢才是比较合适?

  • 设置时间短,那么可能在业务逻辑还没执行完,就释放锁了
  • 设置时间长,就可以导致锁释放不及时的可能

更好的是能够去进行“动态续约”

引入watch dog(看门狗)

本质上就是在加锁的服务器上的一个单独的线程,通过这个线程来对锁过期时间进行一个“续约”

❤ 举个具体的例子:

初始情况下设置过期时间为 10s. 同时设定看门狗线程每隔 3s 检测⼀次.

那么当 3s 时间到的时候, 看门狗就会判定当前任务是否完成.
  • 如果任务已经完成, 则直接通过 lua 脚本的方式, 释放锁(删除 key).
  • 如果任务未完成, 则把过期时间重写设置为 10s. (即 "续约")


使用Redis作为分布式锁,有没有可能Redis自身挂了? 

那么是很有可能的!!!

Redis一般是以集群(至少也是主从的形式,而不是单机)的方式去部署的

服务器1向它的master节点就行加锁操作,这个数据刚写入主节点,主节点挂了,从节点就会新的主节点

由于主节点和从节点之间的数据是同步的,但是有延迟

那么刚才写入的key还没有被新的主节点接收,此时相当于服务器1就没有成功进行加上锁

但是服务器2仍然可以进行去加上锁,

引入Redlock算法:

 由于主节点和主节点之间数据都是一致的,相互是备份的关系

在进行加锁的时候,会按照一定的顺序,针对这组Redis都进行加锁

如果某个节点加不上锁,并没有关系,可能是Redis挂了,继续给下一个节点加锁即可

如果此时key加锁成功的节点个数占总的一半,那么可视为加锁成功

同时解锁的时候,会把上述的节点都需要解锁~

简而言之, Redlock 算法的核心就是, 加锁操作不能只写给⼀个 Redis 节点, 而要写个多个!! 分布式系统中任何⼀个节点都是不可靠的. 最终的加锁成功结论是 "少数服从多数的".

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/67217.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

记录 | MaxKB创建本地AI智能问答系统

目录 前言一、重建MaxKBStep1 复制路径Step2 删除MaxKBStep3 创建数据存储文件夹Step4 重建 二、创建知识库Step1 新建知识库Step2 下载测试所用的txtStep3 上传本地文档Step4 选择模型补充智谱的API Key如何获取 Step5 查看是否成功 三、创建应用Step1 新建应用Step2 配置AI助…

C#新语法

目录 顶级语句(C#9.0) using 全局using指令(C#10.0) using资源管理问题 using声明(C#8.0) using声明陷阱 错误写法 正确写法 文件范围的命名空间声明(C#10.0) 可空引用类型…

基于dlib/face recognition人脸识别推拉流实现

目录 一.环境搭建 二.推拉流代码 三.人脸检测推拉流 一.环境搭建 1.下载RTSP服务器MediaMTX与FFmpeg FFmpeg是一款功能强大的开源多媒体处理工具,而MediaMTX则是一个轻量级的流媒体服务器。两者结合,可以实现将本地视频或者实时摄像头画面推送到RTSP流,从而实现视频…

Couchbase UI: Analytics

Couchbase 的 Analytics 页面是用于执行分析查询的部分,允许用户对存储在 Couchbase 中的数据进行复杂的分析和聚合。Analytics 提供了 SQL-like 查询语言(N1QL for Analytics),使得用户能够轻松地执行数据分析任务。以下是关于 C…

梯度下降优化算法-Adam

Adam(Adaptive Moment Estimation)是一种结合了动量法(Momentum)和 RMSProp 的自适应学习率优化算法。它通过计算梯度的一阶矩(均值)和二阶矩(未中心化的方差)来调整每个参数的学习率…

论文笔记(六十三)Understanding Diffusion Models: A Unified Perspective(六)(完结)

Understanding Diffusion Models: A Unified Perspective(六)(完结) 文章概括指导(Guidance)分类器指导无分类器引导(Classifier-Free Guidance) 总结 文章概括 引用: …

【PySide6快速入门】信号与槽的使用

文章目录 前言什么是信号与槽信号与槽的功能最简单的信号与槽控件连接信号与信号的连接总结 前言 在 PySide6 中,信号与槽机制是核心概念之一,它是 Qt 库中事件通信的基础。通过信号与槽,开发者能够实现不同组件之间的解耦,从而使…

GOGOGO 枚举

含义:一种类似于类的一种结构 作用:是Java提供的一个数据类型,可以设置值是固定的 【当某一个数据类型受自身限制的时候,使用枚举】 语法格式: public enum 枚举名{…… }有哪些成员? A、对象 public …

AWTK 骨骼动画控件发布

Spine 是一款广泛使用的 2D 骨骼动画工具,专为游戏开发和动态图形设计设计。它通过基于骨骼的动画系统,帮助开发者创建流畅、高效的角色动画。本项目是基于 Spine 实现的 AWTK 骨骼动画控件。 代码:https://gitee.com/zlgopen/awtk-widget-s…

[免费]基于Python的Django博客系统【论文+源码+SQL脚本】

大家好,我是java1234_小锋老师,看到一个不错的基于Python的Django博客系统,分享下哈。 项目视频演示 【免费】基于Python的Django博客系统 Python毕业设计_哔哩哔哩_bilibili 项目介绍 随着互联网技术的飞速发展,信息的传播与…

如何将电脑桌面默认的C盘设置到D盘?详细操作步骤!

将电脑桌面默认的C盘设置到D盘的详细操作步骤! 本博文介绍如何将电脑桌面(默认为C盘)设置在D盘下。 首先,在D盘建立文件夹Desktop,完整的路径为D:\Desktop。winR,输入Regedit命令。(或者单击【…

C++ 写一个简单的加减法计算器

************* C topic:结构 ************* Structure is a very intersting issue. I really dont like concepts as it is boring. I would like to cases instead. If I want to learn something, donot hesitate to make shits. Like building a house. Wh…

excel如何查找一个表的数据在另外一个表是否存在

比如“Sheet1”有“张三”、“李四”“王五”三个人的数据,“Sheet2”只有“张三”、“李四”的数据。我们通过修改“Sheet1”的“民族”或者其他空的列,修改为“Sheet2”的某一列。这样修改后筛选这个修改的列为空的或者为出错的,就能找到两…

MySQL 基础学习(2): INSERT 操作

在这篇文章中,我们将专注于 MySQL 中的 INSERT 操作,深入了解如何高效地向表中插入数据,并探索插入操作中的一些常见错误与解决方案。 一、基础 INSERT 语法 在 MySQL 中,INSERT 操作用于向表中插入新记录,基本语法如…

CVE-2023-38831 漏洞复现:win10 压缩包挂马攻击剖析

目录 前言 漏洞介绍 漏洞原理 产生条件 影响范围 防御措施 复现步骤 环境准备 具体操作 前言 在网络安全这片没有硝烟的战场上,新型漏洞如同隐匿的暗箭,时刻威胁着我们的数字生活。其中,CVE - 2023 - 38831 这个关联 Win10 压缩包挂…

论文阅读(二):理解概率图模型的两个要点:关于推理和学习的知识

1.论文链接:Essentials to Understand Probabilistic Graphical Models: A Tutorial about Inference and Learning 摘要: 本章的目的是为没有概率图形模型背景或没有深入背景的科学家提供一个高级教程。对于更熟悉这些模型的读者,本章将作为…

记录 | 基于Docker Desktop的MaxKB安装

目录 前言一、MaxKBStep 1Step2 二、运行MaxKB更新时间 前言 参考文章:如何利用智谱全模态免费模型,生成大家都喜欢的图、文、视并茂的文章! MaxKB的Github下载地址 参考视频:【2025最新MaxKB教程】10分钟学会一键部署本地私人专属…

Go反射指南

概念: 官方对此有个非常简明的介绍,两句话耐人寻味: 反射提供一种让程序检查自身结构的能力反射是困惑的源泉 第1条,再精确点的描述是“反射是一种检查interface变量的底层类型和值的机制”。 第2条,很有喜感的自嘲…

第26篇 基于ARM A9处理器用C语言实现中断<二>

Q:基于ARM A9处理器怎样编写C语言工程,使用按键中断将数字显示在七段数码管上呢? A:基本原理:主程序需要首先调用子程序set_A9_IRQ_stack()初始化IRQ模式的ARM A9堆栈指针;然后主程序调用子程序config_GIC…

基于GS(Gaussian Splatting)的机器人Sim2Real2Sim仿真平台

项目地址:RoboGSim 背景简介 已有的数据采集方法中,遥操作(下左)是数据质量高,但采集成本高、效率低下;传统仿真流程成本低(下右),但真实度(如纹理、物理&…