使用redis实现 令牌桶算法 漏桶算法

流量控制算法,用于限制请求的速率。
可以应对缓存雪崩

令牌桶算法

核心思想是:

  • 有一个固定容量的桶,里面存放着令牌(token)。
  • 每过一定时间(如 1 秒),桶中会自动增加一定数量的令牌,直到达到桶的容量上限。
  • 当有请求到来时,会从桶中取出一个令牌。如果桶中有令牌,则请求被允许通过;如果桶中没有令牌,则拒绝该请求。

基于 Redis 的实现

  • 初始化
    使用 Redis 的 Sorted Set(有序集合)来存储令牌。
    初始化时,向有序集合中添加一定数量的令牌,每个令牌的时间戳作为分数(score)。
ZADD user:rate_limit 1633072800 1633072800

或者,可以预先为每个用户生成大量令牌,时间戳作为分数,均匀分布在一定时间段内。

  • 令牌生成
    定期向桶中添加令牌。可以使用 Redis 的 ZADD 命令来添加新的令牌,每个令牌的时间戳作为分数。
ZADD user:rate_limit NX 1633072801 1633072801

这里的 NX 表示如果键不存在,则不执行操作(可选)。

  • 检查和消耗令牌
    当请求到来时,检查桶中是否有可用的令牌。可以使用 ZCOUNT 命令统计当前时间戳之前的有效令牌数量。
ZCOUNT user:rate_limit -inf +inf

如果有可用令牌,则使用 ZPOPMIN 命令取出一个令牌,并允许请求通过。

ZPOPMIN user:rate_limit

如果没有可用令牌,则拒绝请求。

  • 清理过期令牌
    定期清理过期的令牌,避免数据堆积。例如,可以使用 ZREMRANGEBYSCORE 命令删除时间戳小于当前时间的令牌。
ZREMRANGEBYSCORE user:rate_limit -inf $(current_time)

漏桶算法

漏桶算法类似于一个漏斗,它的核心思想是:
有一个固定容量的漏桶,里面存储着请求。
漏桶以恒定的速率将请求漏出(处理)。
当请求到达时,如果漏桶未满,则将请求放入漏桶;如果漏桶已满,则拒绝该请求。

基于 Redis 的实现

  • 初始化
    使用 Redis 的 String 类型键来存储漏桶的状态。例如,键 user:leaky_bucket 可以存储最后一个请求的时间戳。
SET user:leaky_bucket 1633072800
  • 请求处理
    当请求到来时,首先检查漏桶是否已满。这可以通过比较当前时间与最后一个请求的时间戳来实现。
    如果当前时间与最后一个请求的时间差小于漏桶的处理时间间隔(例如 1 秒),则认为漏桶已满,拒绝请求。
    否则,更新漏桶的时间戳,并允许请求通过。
SET user:leaky_bucket $(current_time)
  • 处理速率
    通过设置漏桶的处理速率(例如每秒处理一个请求)来控制流量。可以通过 Redis 的 SET 命令中的参数 NX 和 XX 来实现线程安全。

  • 总结
    令牌桶算法允许突发流量,适合作为速率限制器。
    漏桶算法适用于平滑流量的情况,适用于需要恒定处理速率的场景。

在 Redis 中,可以通过组合使用有序集合、字符串等数据结构以及原子操作(如 ZADD、ZPOPMIN 和 SET)来高效地实现这两类限流算法。

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/69396.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

活动预告 | 解锁 Excel 新境界 —— AI 技术赋能下的数据分析超级引擎!

课程介绍 在 AI 技术的浪潮中,Microsoft Excel 已经焕然一新,它不再仅仅是海量复杂数据的处理中心,更是未来趋势的预测大师。智能 Copilot 副驾驶的加入,让 Excel 如虎添翼,成为每一位数据探索者梦寐以求的超级引擎。在…

在阿里云ECS上一键部署DeepSeek-R1

DeepSeek-R1 是一款开源模型,也提供了 API(接口)调用方式。据 DeepSeek介绍,DeepSeek-R1 后训练阶段大规模使用了强化学习技术,在只有极少标注数据的情况下提升了模型推理能力,该模型性能对标 OpenAl o1 正式版。DeepSeek-R1 推出…

Python分享20个Excel自动化脚本

在数据处理和分析的过程中,Excel文件是我们日常工作中常见的格式。通过Python,我们可以实现对Excel文件的各种自动化操作,提高工作效率。 本文将分享20个实用的Excel自动化脚本,以帮助新手小白更轻松地掌握这些技能。 1. Excel单…

使用requestAnimationFrame减少浏览器重绘

文章目录 介绍使用使用rAF前使用rAF后 介绍 在屏幕中,浏览器通常都以60FPS(1/60 s)每帧更新屏幕,但是当前端绑定了一些高频事件,如鼠标移动,屏幕滚动、触摸滑动等时,在一帧的周期内,…

Android的MQTT客户端实现

在 Android 平台上实现 MQTT 客户端的完整技术方案,涵盖基础实现、安全连接、性能优化和最佳实践: 一、技术选型与依赖配置 推荐库 Eclipse Paho Android Service(官方维护,支持后台运行) gradle 复制 // build.gradl…

SQL LEFT JOIN 详解

SQL LEFT JOIN 详解 引言 在SQL数据库查询中,LEFT JOIN 是一种强大的联接操作符,它允许我们从两个或多个表中检索数据。本文将详细介绍 LEFT JOIN 的概念、用法以及在实际应用中的注意事项。 一、什么是 LEFT JOIN? LEFT JOIN 是一种 SQL 联接操作符,用于返回左表(Lef…

理解UML中的四种关系:依赖、关联、泛化和实现

在软件工程中,统一建模语言(UML)是一种广泛使用的工具,用于可视化、设计、构造和文档化软件系统。UML提供了多种图表类型,如类图、用例图、序列图等,帮助开发者和设计师更好地理解系统的结构和行为。在UML中…

es match 可查 而 term 查不到 问题分析

版本信息 elasticsearch-8.13.0 es 匹配逻辑 根本:es 的匹配是基于token 的。检索的query和目标字段在token 层级上有交集才能检索成功。对同样的文本,使用不同的分词器,所得token 不同。es 默认的analyzer(分词器)是standard模式&#xf…

如何通过Deepseek的API进行开发和使用(适合开发者和小白的学习使用教程)

目录 一,API创建与获取 二,直接进行API的调用 2.1 安装第三方库 2.2 官方支持的接口调用方式 2.3 编写的小tips 2.4 AI助手工具代码 三, 配置方面的说明 3.1 token价格和字符用量 3.2 响应错误码 最近在休息的时候也是一直会刷到关于deepseek,简单使用了一下,发现这…

C#+halcon机器视觉九点标定算法

在机器视觉中,九点标定(也称为九点标定法)是一种常用的方法,用于将图像坐标系与物理坐标系进行映射。通过标定,可以将图像中的像素坐标转换为实际物理坐标,或者反之。下面是一个使用C#和Halcon进行九点标定…

Stream API 进阶:筛选、映射、查找、归约

文章目录 1. 引言 (Introduction)2. 筛选和切片 (Filtering and Slicing)2.1 使用谓词筛选 filter2.2 筛选各异的元素 distinct2.3 截短流 limit2.4 跳过元素 skip 3. 映射 (Mapping)3.1 对流中每一个元素应用函数 map3.2 流的扁平化 flatMap 4. 查找和匹配 (Finding and Match…

使用scoop 下载速度慢怎么办

在国内使用 Scoop 下载速度慢是一个常见问题,主要是因为 Scoop 默认的软件源(bucket)和下载服务器通常位于国外。以下是一些提高下载速度的方法: 1. 更换 Scoop 镜像源(Bucket 镜像): 原理&…

unity学习33:角色相关2,碰撞检测,collider 和 rigidbody,测试一个简单碰撞爆炸效果

目录 1 给gameObject添加rigidbody 2 rigidbody的属性 2.1 基础属性 2.2 插值 详细 2.3 碰撞检测 2.4 constraints 冻结坐标轴的移动和旋转 2.5 layer Overrides 3 碰撞检测 collision Detection 3.1 每个gameObeject上都会创建时自带一个 Collider 3.2 Collider的绿…

DeepSeek-V3:开源多模态大模型的突破与未来

目录 引言 一、DeepSeek-V3 的概述 1.1 什么是 DeepSeek-V3? 1.2 DeepSeek-V3 的定位 二、DeepSeek-V3 的核心特性 2.1 多模态能力 2.2 开源与可扩展性 2.3 高性能与高效训练 2.4 多语言支持 2.5 安全与伦理 三、DeepSeek-V3 的技术架构 3.1 模型架构 3…

警告accumulate and all-reduce gradients in fp32 for bfloat16 data type

这条警告信息是关于分布式训练中的通信优化策略的,具体涉及流水线并行(Pipeline Parallelism)和点对点通信(P2P Communication)。以下是对这条警告的详细解释: ### **警告内容** WARNING: Setting args.o…

【生成模型之十四】Visual Autoregressive Modeling

论文:Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction code:GitHub - FoundationVision/VAR: [NeurIPS 2024 Best Paper][GPT beats diffusion🔥] [scaling laws in visual generation📈]…

硬核技术:小程序能够调用手机的哪些传感器

一、加速度传感器 小程序可以调用手机的加速度传感器来检测设备的运动状态。加速度传感器能够测量设备在三个轴(X、Y、Z)上的加速度变化。通过分析这些数据,小程序可以实现一些功能,如运动检测、步数统计、游戏中的动作感应等。 健…

修剪二叉搜索树(力扣669)

这道题还是比较复杂,在递归上与之前写过的二叉树的题目都有所不同。如果当前递归到的子树的父节点不在范围中,我们根据节点数值的大小选择进行左递归还是右递归。为什么找到了不满足要求的节点之后,还要进行递归呢?因为该不满足要…

活动预告 |【Part 2】Microsoft 安全在线技术公开课:通过扩展检测和响应抵御威胁

课程介绍 通过 Microsoft Learn 免费参加 Microsoft 安全在线技术公开课,掌握创造新机遇所需的技能,加快对 Microsoft Cloud 技术的了解。参加我们举办的“通过扩展检测和响应抵御威胁”技术公开课活动,了解如何更好地在 Microsoft 365 Defen…

【WB 深度学习实验管理】利用 Hugging Face 实现高效的自然语言处理实验跟踪与可视化

本文使用到的 Jupyter Notebook 可在GitHub仓库002文件夹找到,别忘了给仓库点个小心心~~~ https://github.com/LFF8888/FF-Studio-Resources 在自然语言处理领域,使用Hugging Face的Transformers库进行模型训练已经成为主流。然而,随着模型复…