分布式ID生成方案:数据库号段、Redis与第三方开源实现

分布式ID生成方案:数据库号段、Redis与第三方开源实现

引言

在分布式系统中,全局唯一ID生成是核心基础能力之一。本文针对三种主流分布式ID生成方案(数据库号段模式、Redis方案、第三方开源框架)进行解析,从实现原理到实战优劣势全面对比,为技术选型提供可靠依据。


一、基于数据库的号段模式

1.1 核心原理

通过数据库自增特性批量分配ID区间,应用层缓存号段本地消费,实现数据库访问频次大幅降低。

技术实现步骤:

  1. 创建ID管理表
CREATE TABLE id_generator (biz_tag VARCHAR(64) PRIMARY KEY,  -- 业务标识max_id BIGINT NOT NULL,           -- 当前最大IDstep INT NOT NULL,                -- 号段长度version BIGINT NOT NULL           -- 乐观锁版本号
);
  1. 号段获取流程
public synchronized List<Long> getNextSegment(String bizTag) {// 1. 查询当前号段IdRecord record = selectForUpdate(bizTag);// 2. 计算新号段范围long newMaxId = record.maxId + record.step;// 3. 原子更新数据库updateMaxId(bizTag, newMaxId, record.version);// 4. 返回可用区间return Arrays.asList(record.maxId+1, newMaxId);
}

1.2 关键优化策略

  • 双Buffer机制:预加载下一号段,实现无感切换
  • 动态步长调整:根据业务压力自动扩容号段大小
  • 多实例隔离:通过biz_tag字段支持多业务线

1.3 优劣势对比

优势劣势
✅ 简单易实现❌ 强依赖数据库可用性
✅ 天然ID趋势递增❌ 号段耗尽可能引发短暂延迟
✅ 容灾能力强(可重建)❌ 需要处理并发更新问题

二、基于Redis的ID生成方案

2.1 典型实现方式

方式一:原子计数器
# 生成连续ID
INCR order:id# 集群模式分段
HINCRBY id_pool order 1000
方式二:Snowflake改进版
-- 获取秒级时间戳(支持到2038年)
local ts = redis.call('TIME')[1] -- 获取节点标识(预分配的静态ID)
local node_id = 1001  -- 获取自增序列(自动归零)
local seq = redis.call('INCR', 'global:seq')
if seq > 65535 thenredis.call('SET', 'global:seq', 0)seq = 0
end-- 组合ID

2.2 核心挑战与解决方案

  1. 持久化问题

    • AOF持久化保证数据不丢失
    • 定期快照+最大序列号持久化
  2. 时钟回拨处理

    • 维护最近时间戳到Redis
    • 检测到回拨时自动等待
  3. 集群扩展方案

    • 基于Hash Slot划分业务区间
    • 多节点分段预生成策略

2.3 优劣势对比

优势劣势
✅ 单机10w+ TPS❌ 持久化策略影响性能
✅ 支持灵活数据结构❌ 集群配置复杂度高
✅ 支持多种ID格式❌ 网络抖动可能引发雪崩

三、第三方开源方案解析

3.1 美团Leaf方案

架构组成:

  • Leaf-Segment:增强型号段模式
  • Leaf-Snowflake:优化雪花算法

核心创新点:

  • ZooKeeper协调节点分配
  • 时钟回拨解决方案:
    if (currentTime < lastTimestamp) {long offset = lastTimestamp - currentTime;if (offset <= 5) {wait(offset << 1);} else {throw new ClockMovedBackwardsException();}
    }
    

3.2 百度UidGenerator

核心算法改进:

  • 自定义比特分配策略:
    | sign | delta seconds | worker node | sequence |
    | 1bit |     28bits    |    22bits   |  13bits  |
    
  • RingBuffer预取机制:
    • 双指针无锁化设计
    • 填充阈值动态调整策略

3.3 开源方案对比

维度LeafUidGenerator
吞吐量10w+/s(号段模式)60w+/s
时钟依赖强依赖NTP自带时间累积方案
部署复杂度需ZooKeeper纯Java实现
数据倾斜处理自动rebalance固定worker分配

四、综合对比与选型建议

4.1 多维度对比矩阵

评估维度数据库号段Redis方案开源方案
性能上限中等极高
运维复杂度
数据可靠性依赖配置
扩展灵活性
时钟敏感性

4.2 场景化选型指南

  • 中小型系统:数据库号段模式(日均百万级)
  • 高并发场景:Redis集群方案(千万级日订单)
  • 金融级系统:Leaf方案(强一致性要求)
  • 物联网场景:UidGenerator(海量设备接入)

五、未来演进方向

  1. 混合模式架构:号段+雪花算法的动态切换
  2. Serverless化服务:基于云函数的弹性ID服务

实际选型需结合团队技术栈、业务增长预期和运维能力综合评估。建议在预生产环境进行压力测试,重点关注ID服务在网络分区、节点故障等异常场景的表现。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/71491.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

rabbitmq-amqp事务消息+消费失败重试机制+prefetch限流

1. 安装和配置 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency><dependency> <groupId>com.fasterxml.jackson.core</groupId> <arti…

【Python】05、Python运算符

文章目录 1.算术运算符2.赋值运算符3.关系运算符4.逻辑运算符4.1 布尔值逻辑运算4.2 非布尔值的逻辑运算符 5.条件运算符6.运算符优先级 运算符也称为操作符&#xff0c;可以对一个或多个值进行运算或各种操作。比如、-、都属于运算符 1.算术运算符 加法 如果是两个字符串之间…

2025-03-06 学习记录--C/C++-PTA 习题6-6 使用函数输出一个整数的逆序数

合抱之木&#xff0c;生于毫末&#xff1b;九层之台&#xff0c;起于累土&#xff1b;千里之行&#xff0c;始于足下。&#x1f4aa;&#x1f3fb; 一、题目描述 ⭐️ 二、代码&#xff08;C语言&#xff09;⭐️ #include <stdio.h>int reverse( int number );int main…

简记_硬件系统设计之需求分析要点

目录 一、 功能需求 二、 整体性能需求 三、 用户接口需求 四、 功耗需求 五、 成本需求 六、 IP和NEMA防护等级需求 七、 认证需求 功能需求 供电方式及防护 供电方式&#xff1a;市电供电、外置直流稳压电源供电、电池供电、PoE&#xff08;Power Over Ether…

[原创](Modern C++)现代C++的关键性概念: 利用“概念(Concepts)“,可以优雅地约束模板参数

[作者] 常用网名: 猪头三 出生日期: 1981.XX.XX 企鹅交流: 643439947 个人网站: 80x86汇编小站 编程生涯: 2001年~至今[共24年] 职业生涯: 22年 开发语言: C/C、80x86ASM、PHP、Perl、Objective-C、Object Pascal、C#、Python 开发工具: Visual Studio、Delphi、XCode、Eclipse…

Self-Pro: A Self-Prompt and Tuning Framework for Graph Neural Networks

Self-Pro: A Self-Prompt and Tuning Framework for Graph Neural Networks ​#paper/GFM/GNN-BASED#​ #paper/⭐⭐⭐#​ 注意&#xff1a;这篇文章是每个图一个GCN模型&#xff0c;而不是所有图一个GCN 模型 算是最早的涉及异配图的prompt了 贡献和动机&#xff1a; 非对…

宝塔 Linux 计划任务中添加运行项目网站PHP任务-定时任务

一、指定php版运行&#xff0c; cd /www/wwwroot/www.xxx.com/ && /www/server/php/56/bin/php think timedtasks start >> /tmp/timedtasks.log 2>&1 二、不指定php版 cd /www/wwwroot/www.xxx.com/ && php think timedtasks start >> …

【电控笔记z29】扰动估测器DOB估测惯量J-摩擦系数B

基本原理 扰动估测器的核心思想是通过向电机系统施加特定的扰动信号&#xff0c;观察系统响应的变化&#xff0c;然后利用系统的动态模型和控制理论来估计未知参数&#xff0c;如惯量和摩擦系数 。一般基于电机的运动方程建立数学模型&#xff0c;结合观测到的电机实际运行数据…

要查看 SQLite 数据库中的所有表,可以通过查询 SQLite 的系统表 sqlite_master

要查看 SQLite 数据库中的所有表&#xff0c;可以查询 SQLite 的系统表 sqlite_master。 每个 SQLite 数据库都包含一个名为 sqlite_master 的系统表。该表定义了数据库的模式&#xff0c;存储了数据库中所有表、索引、视图和触发器等对象的信息。 通过查询 sqlite_master&am…

如何在Spring Boot中读取JAR包内resources目录下文件

精心整理了最新的面试资料和简历模板&#xff0c;有需要的可以自行获取 点击前往百度网盘获取 点击前往夸克网盘获取 以下是如何在Spring Boot中读取JAR包内resources目录下文件的教程&#xff0c;分为多种方法及详细说明&#xff1a; 方法1&#xff1a;使用 ClassPathResour…

清华大学DeepSeek赋能家庭教育【附下载链接】

核心要点&#xff1a; DeepSeek通过基础模型&#xff08;V3&#xff09;、深度思考模型&#xff08;R1&#xff09;及联网模型&#xff0c;为家庭教育提供分层支持&#xff1a;V3用于作业辅导&#xff0c;R1培养批判性思维&#xff0c;联网模型助力探究性学习。家长需遵循目标导…

C语言番外篇(5)-------------->作用域与生命周期

作用域与生命周期是非常重要的编程知识。本篇文章使用C语言讲述作用域与生命周期。 一、作用域 在程序设计中&#xff0c;变量并非总是有效的&#xff0c;可以使用的区域就是作用域。 1.1局部变量的作用域 在{}中的都是局部变量&#xff0c;只是作用大小不一样而已。我们可…

若依前后端分离版使用Electron打包前端Vue为Exe文件

1.前言 本文详细介绍如何使用electron将若依框架前后端分离版的前端Vue页面打包为Exe文件&#xff0c;并且包括如何实现应用更新。使用若依基础代码体现不出打包功能&#xff0c;因此我使用开发的文件管理系统&#xff0c;介绍上述过程&#xff0c;具体可以查看我的文章《若依…

Linux——Docker容器内MySQL密码忘记了如何查看

目录 查看正在运行的MySQL的容器ID 方法一&#xff1a;查看MySQL容器的日志里的密码 方法二&#xff1a;通过环境变量密码登录 方法三&#xff1a;修改密码 查看正在运行的MySQL的容器ID docker ps 方法一&#xff1a;查看MySQL容器的日志里的密码 docker logs [MySQL的容器…

康谋分享 | 3DGS:革新自动驾驶仿真场景重建的关键技术

随着自动驾驶技术的迅猛发展&#xff0c;构建高保真、动态的仿真场景成为了行业的迫切需求。传统的三维重建方法在处理复杂场景时常常面临效率和精度的挑战。在此背景下&#xff0c;3D高斯点阵渲染&#xff08;3DGS&#xff09;技术应运而生&#xff0c;成为自动驾驶仿真场景重…

大模型架构记录2

一 应用场景 1.1 prompt 示例 1.2 自己搭建一个UI界面&#xff0c;调用接口 可以选用不同的模型&#xff0c;需要对应的API KEY 二 Agent 使用 2.1 构建GPT

【C++】二叉树相关算法题

一、根据二叉树创建字符串 题目描述&#xff1a; 给你二叉树的根节点 root &#xff0c;请你采用前序遍历的方式&#xff0c;将二叉树转化为一个由括号和整数组成的字符串&#xff0c;返回构造出的字符串。 空节点使用一对空括号对 “()” 表示&#xff0c;转化后需要省略所有…

【机械视觉】C#+visionPro联合编程———【一、C# + VisionPro 联合编程详解以及如何将visionPro工具加载到winform】

机械视觉与 C# VisionPro 联合编程详解 目录 机械视觉与 C# VisionPro 联合编程详解 概念 应用场景 1. 工业检测与质量控制缺陷检测 2. 定位与机器人引导 3. 识别与分类 4. 复杂流程控制 将visionPro工具加载到winform 环境准备 一、创建winform项目 二、打开窗体…

修改hosts文件,修改安全属性,建立自己的DNS

初级代码游戏的专栏介绍与文章目录-CSDN博客 我的github&#xff1a;codetoys&#xff0c;所有代码都将会位于ctfc库中。已经放入库中我会指出在库中的位置。 这些代码大部分以Linux为目标但部分代码是纯C的&#xff0c;可以在任何平台上使用。 源码指引&#xff1a;github源…

对NXP提供的BSP里边所使用的u-boot的环境变量`bootcmd`的解析

为什么我们要解析环境变量bootcmd&#xff1f; 承接博文 https://blog.csdn.net/wenhao_ir/article/details/145902134 继续解析u-boot的环境变量bootcmd。 为什么要解析u-boot的这个环境变量bootcmd&#xff1f;因为如果u-boot在倒计时完后,首先执行的是就是下面这条命令&am…