kafka在线增加分区副本数

1、问题来源

线上有一个物联网项目依赖kafka集群中指定主题消费,前些天kafka集群中的某一台机器出现了故障,导致kafka这个主题的数据一直无法消费,经查发现为了保证消息的顺序性此主题仅设置了一个分区,但是副本也仅有一个,这样就导致生产端的ack设置成all也无法保证消息的丢失。为保证即使有一个节点宕机kafka服务也能正常进行,须增加此主题的分区副本数为broker数

2、解决方案

两个方案:

1) 通过删掉主题再新增时设置分区的副本数

2) 通过kafka服务端提供的工具来增加副本数

由于有多个消费者组都订阅了此主题,第一种方案会造成还偏移量还未达到最新的数据就彻底丢失了,故还是选择第二种方案

3、最终方案

1) 先登录kafka集群中任意一台机器,进入到kafka的HOME目录

2) 编写 t.json

{"version":1,"partitions":[{"topic":"主题名称","partition":0,"replicas":[0,2,1]}]}

3) 执行命令

./bin/kafka-reassign-partitions.sh --bootstrap-server kafka节点IP:9092 --execute --reassignment-json-file t.json

当shell终端返回下面的提示就表示操作成功

Successfully started partition reassignment for 主题名-0

4、检查主题的副本数

执行下面的命令可以查看

./bin/kafka-topics.sh --bootstrap-server kafka节点IP:9092 --describe --topic 主题名称

至此问题得到解决

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/906612.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

高等数学-积分

一、不定积分 定理:如果函数f(x)在区间I上连续,那么f(x)在区间I上一定有原函数,即一定存在区间I上的可导函数F(x),使得F(x)f(x) ,x∈I 简单地说:连续函数必有原函数。 极限lim*0->x {[∫*0^x sin(t^2)…

Java 多线程编程:解锁高性能应用开发的密钥

在计算机编程的广袤领域中,Java 凭借其跨平台性、丰富的类库和强大的生态系统,成为众多开发者,尤其是大学生入门编程的热门选择。而在 Java 的众多特性里,多线程编程宛如一颗璀璨的明珠,掌握它对于开发高性能、响应迅速…

【设计模式】责任链+模板+工程模式使用模板

前言 方便写出优雅,解耦,高内聚,高复用的代码。 Demo // 1. 定义验证器接口(责任链模式) public interface Validator {Validator setNext(Validator next);boolean validate(Data data); }// 2. 创建抽象验证器&am…

智能体应用如何重塑未来生活?全面解析技术场景与实在Agent突破

智能体应用有哪些?在科技飞速发展的当下,人工智能正以前所未有的速度渗透到我们生活的方方面面。而智能体技术,作为人工智能领域的一颗璀璨新星,正逐渐展现出其重塑未来生活的巨大潜力。从办公效率的提升到医疗服务的优化&#xf…

【2025-05-22】XXL-JOB 的 8810 端口添加到 CentOS 6.5 的防火墙白名单

要将 XXL-JOB 的 8810 端口添加到 CentOS 6.5 的防火墙白名单中,需修改 iptables 规则。以下是具体步骤: 1. 编辑防火墙配置文件 vi /etc/sysconfig/iptables2. 添加 XXL-JOB 端口规则 在 INPUT 链的 ACCEPT 规则部分(例如在开放 80/443 端…

【大前端】使用NodeJs HTTP模块创建web服务器、SSE通讯

Nodejs构建web服务器有很多中方式,常见的有两种:express,http.Server: express:轻量级的Nodejs web服务器,功能完善,支持自定义插件http.Server:NodeJ内置模块,比expres…

Python 响应报文提取方式

简介 响应报文分为JSON格式和字符串格式,往往响应报文中有很多个字段和多层嵌套,如何快速的提取字段key和对应的value值呢?有三种提取方式:jsonpath提取、正则表达式、字符串切片。jsonpath是针对JSON格式的数据提取,…

《大模型开源与闭源的深度博弈:科技新生态下的权衡与抉择》

开源智能体大模型的核心魅力,在于它构建起了一个全球开发者共同参与的超级协作网络。想象一下,来自世界各个角落的开发者、研究者,无论身处繁华都市还是偏远小镇,只要心怀对技术的热爱与追求,就能加入到这场技术狂欢中…

【每日一题丨2025年5.12~5.18】排序相关题

个人主页:Guiat 归属专栏:每日一题 文章目录 1. 【5.12】P1068 [NOIP 2009 普及组] 分数线划定2. 【5.13】P5143 攀爬者3. 【5.14】P12366 [蓝桥杯 2022 省 Python B] 数位排序4. 【5.15】P10901 [蓝桥杯 2024 省 C] 封闭图形个数5.【5.16】P12165 [蓝桥…

522UART是什么

UART(Universal Asynchronous Receiver/Transmitter,通用异步收发传输器)是一种常见的串行通信协议,用于设备间的低速数据传输。它采用异步通信方式,无需时钟信号同步,仅需两根数据线(TX发送、R…

养生攻略:五步打造健康生活

一、饮食:均衡膳食,轻养为先 遵循 “4321 饮食法则”:每餐 4 拳蔬菜、3 拳主食(杂粮占 1/2)、2 拳蛋白质、1 勺健康脂肪。早餐推荐菠菜鸡蛋卷饼配无糖豆浆,午餐选择糙米饭、清蒸鲈鱼、蒜蓉西兰花&#xff…

Ubuntu+Docker+内网穿透:保姆级教程实现安卓开发环境远程部署

文章目录 前言1. 虚拟化环境检查2. Android 模拟器部署3. Ubuntu安装Cpolar4. 配置公网地址5. 远程访问小结 6. 固定Cpolar公网地址7. 固定地址访问 前言 本文将详细介绍一种创新性的云开发架构:基于Ubuntu系统构建Android仿真容器环境,并集成安全隧道技…

第六届电子通讯与人工智能国际学术会议(ICECAI 2025)

在数字化浪潮中,电子通讯与人工智能的融合正悄然重塑世界的运行逻辑。技术基础的共生关系是这场变革的核心——电子通讯如同“信息高速公路”,通过5G等高速传输技术,将海量数据实时输送至AI系统,使其能够像人类神经系统般快速响应…

解决 Tailwind CSS 代码冗余问题

解决 Tailwind CSS 代码冗余问题 Tailwind CSS 确实可能导致 HTML 类名过长和冗余的问题,以下是几种有效的解决方案: 1. 使用 apply 指令提取重复样式 /* 在CSS文件中 */ .btn {apply px-4 py-2 rounded-md font-medium; }.card {apply p-6 bg-white …

pytorch-lightning1.7.0 old init 错误解决

在 /usr/local/anaconda3/envs/pcd117/lib/python3.9/site-packages/pytorch_lightning/utilities/data.py 500多行处修改下面这个方法 contextmanager def _replace_init_method(base_cls: Type, store_explicit_arg: Optional[str] None) -> Generator[None, None, No…

List介绍

什么是List 在集合框架中,List是一个接口,继承自Collection Collection也是一个接口,该接口中规范了后序容器中常用的一些方法 Iterable也是一个接口,表示实现该接口的类是可以逐个元素进行遍历的,具体如下&#xff1…

STM32之模数转换器(ADC)

一、模数转换的原理与应用 一般在电子线路中,信号分为两种:模拟信号 数字信号,大多数传感器采集的都是模拟信号,比如温度、湿度、压力....... ,传感器把采集的模拟信号转为数字信号,再转交给计算机进行处…

luckysheet的使用——17.将表格作为pdf下载到本地

luckysheet源码里面自带有打印按钮,但是功能是无法使用的,所以我把该功能重写了一遍 1.在menuButton.js文件中找到源码打印按钮的触发事件: $("#luckysheet-icon-print").click(function () {}2.使用自己写的挂载方法 window.pr…

云原生+大数据

虚拟化: 虚拟化,是指通过虚拟化技术将一台计算机虚拟为多台逻辑计算机。在一台计算机上同时运行多个逻辑计算机,每个逻辑计算机可运行不同的操作系统,并且应用程序都可以在相互独立的空间内运行而互不影响,从而显著提…

微信小游戏流量主广告自动化浏览功能案例5

功能需求: 支持APP单行文本框输入1个小程序链接,在“文件传输助手”界面发送小程序链接并进入。 主要有“文章列表首页”和“文章内容”页面。每个页面支持点击弹窗广告、槽位广告、视频广告入口、视频广告内第三方广告。 弹窗广告、槽位广告、视频广…