如何使用极限网关实现 Elasticsearch 集群迁移至 Easysearch

news/2025/9/25 23:32:28/文章来源:https://www.cnblogs.com/infinilabs/p/19112333

之前有博客介绍过通过 Reindex 的方法将 Elasticsearch 的数据迁移到 Easysearch 集群,今天再介绍一个方法,通过 极限网关(INFINI Gateway) 来进行数据迁移。

测试环境

软件 版本
Easysearch 1.12.0
Elasticsearch 7.17.29
INFINI Gateway 1.29.2

迁移步骤

  1. 选定要迁移的索引
  2. 在目标集群建立索引的 mapping 和 setting
  3. 准备 INFINI Gateway 迁移配置
  4. 运行 INFINI Gateway 进行数据迁移

迁移实战

  1. 选定要迁移的索引

在 Elasticsearch 集群中选择目标索引:infinilabs 和 test1,没错,我们一次可以迁移多个。

  1. 在 Easysearch 集群使用源索引的 setting 和 mapping 建立目标索引。(略)
  2. INFINI Gateway 迁移配置准备

去 github 下载配置,修改下面的连接集群的部分

  1 env:2   LR_GATEWAY_API_HOST: 127.0.0.1:29003   SRC_ELASTICSEARCH_ENDPOINT: http://127.0.0.1:92004   DST_ELASTICSEARCH_ENDPOINT: http://127.0.0.1:92015 path.data: data6 path.logs: log7 progress_bar.enabled: true8 configs.auto_reload: true910 api:11   enabled: true12   network:13     binding: $[[env.LR_GATEWAY_API_HOST]]1415 elasticsearch:16   - name: source17     enabled: true18     endpoint: $[[env.SRC_ELASTICSEARCH_ENDPOINT]]19     basic_auth:20       username: elastic21       password: goodgoodstudy2223   - name: target24     enabled: true25     endpoint: $[[env.DST_ELASTICSEARCH_ENDPOINT]]26     basic_auth:27       username: admin28       password: 14da41c79ad2d744b90c

pipeline 部分修改要迁移的索引名称,我们迁移 infinilabs 和 test1 两个索引。

 31 pipeline:32   - name: source_scroll33     auto_start: true34     keep_running: false35     processor:36       - es_scroll:37           slice_size: 138           batch_size: 500039           indices: "infinilabs,test1"40           elasticsearch: source41           output_queue: source_index_dump42           partition_size: 143           scroll_time: "5m"
  1. 迁移数据
./gateway-mac-arm64#如果你保存的配置文件名称不叫 gateway.yml,则需要加参数 -config 文件名

数据导入完成后,网关 ctrl+c 退出。

至此,数据迁移就完成了。下一篇我们来介绍 INFINI Gateway 的数据比对功能。

关于极限网关(INFINI Gateway)

INFINI Gateway 是一个开源的面向搜索场景的高性能数据网关,所有请求都经过网关处理后再转发到后端的搜索业务集群。基于 INFINI Gateway,可以实现索引级别的限速限流、常见查询的缓存加速、查询请求的审计、查询结果的动态修改等等。

官网文档:https://docs.infinilabs.com/gateway
开源地址:https://github.com/infinilabs/gateway

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/917688.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

北京平面设计网站企业管理软件销售工程师

随着时间的积累,电脑内部可能会堆积起大量的垃圾文件、缓存数据和无用程序。因此,定期清理电脑是很有必要的。为了让你的电脑重新焕发生机,提高工作效率,本文将为你介绍4招实用的清洁法,助你轻松清理电脑死角&#xff…

文档抽取技术:实现金融保险业务流程自动化

金融保险行业是高度依赖文档和信息流转的典型领域。从投保申请书、理赔单据到复杂的保险合同、财务报告,海量非结构化的文档数据构成了行业运营的基础,但也带来了处理效率低下、信息提取困难、人为错误风险高等挑战。…

算法作业

C++核心规范:变量小写下划线,类名首字母大写,四空格缩进,一行别超八十字符,内存配对释放优先用智能指针,关键代码写清“为什么”,裸指针少用,关键代码增加注释。《数学之美》读后感: 原来公式背后藏着优雅逻辑…

网站项目设计书机关单位网站建设的重要性

JAVA种有两种保证线程安全的方式,分别叫懒汉式Lazy Initialization和饿汉式Eager Initialization,以下是他们的区别: 线程安全性: 懒汉式本身是非线程安全的,因为多个线程可能同时检查实例是否为null,并尝…

C#学习3

面向对象编程进阶 继承 csharp // 基类 public class Animal { public string Name public virtual void Speak() { Console.WriteLine("动物发出声音"); } }// 派生类 public class Dog : Animal { public …

9-23

(1)今天预习了java的课程 (2)明天继续深造

9-26

(1)今天预习了java的课程 (2)明天继续深造

微信网站设计运营北京网站建设哪家专业

Prefect 是一个用于构建、调度和监控数据流程的 Python 库。它提供了一种简单而强大的方式来管理 ETL(Extract, Transform, Load)工作流程。下面是一个简单的示例,演示了如何使用 Prefect 来创建和运行一个简单的任务: 首先&…

长春网长春网站建设站建设服务专业建设

Sftp服务器搭建(linux) 一、基本工作原理 FTP的基本工作原理如下: 1)建立连接:客户端与服务器之间通过TCP/IP建立连接。默认情况下,FTP使用端口号21作为控制连接的端口。​​​​​​​ 2)身…

Ubuntu Uninstall App

dpkg -lsudo apt purge firefox

20250925

今天算法与数据结构课学链表,链表是一种线性数据结构,通过指针将一系列节点连接起来,每个节点包含数据域和指针域。和数组相比,链表不需要预先分配固定大小的空间,在插入和删除元素时更灵活。老师写代码演示如何创…

题解:P2662 牛场围栏

省流:同余最短路 本题是一道同余最短路算法的好题。接下来讲讲个人对这道题的理解。 首先,根据题意,我们知道,我们可以获得最多 \(m \times (m +1)\) 种木棍长度。我们设 \(t\) 为这个最大值,则木棍长度可表示为 …

day11 课程(学员管理系统案例)

day11 课程(学员管理系统案例)课程:https://www.bilibili.com/video/BV1o4411M71o?spm_id_from=333.788.videopod.episodes&p=204 11.1 函数加强简介------------------------------------------------ 执行后…

c语言初步学习

c语言初步学习学习c语言必须知道的代码 int main() {return 0; }在c语言里main函数是整个函数的入口点括号用来接收参数,括号为空则不接受外部数据符号皆为英文标点int是为了表明return后面的东西的类型

企业网站适合响应式嘛用ps可以做网站吗

分区的概念 分区实质上是根据特定的规则,将表划分为若干个独立的物理存储单位。以MySQL为例,表会被拆分为多个物理文件。而在OceanBase​​​​​​​中,每个分区则表现为一个物理副本组,每个分区默认都拥有三个副本。 分区表的优…

庐山网站建设大数据营销工具

要解决的问题 如何记录请求经过多个分布式服务的信息,以便分析问题所在?如何保证这些信息得到完整的追踪?如何尽可能不影响服务性能? 追踪 当用户请求到达前端A,将会发送rpc请求给中间层B、C;B可以立刻作…

Cloudflare安全验证过程全解析

本文详细解析了OpenBugBounty网站通过Cloudflare进行安全验证的完整流程,包括人机验证、连接安全检查、JavaScript启用要求等关键环节,揭示了现代Web安全防护的核心技术实现。验证流程分析 初始验证阶段 网站显示&qu…

2025.9.25总结 - A

今天上午是数据结构和篮球,收获颇多,强身健体。

天津企业模板建站在wordpress中设置mx记录

一般这种问题是因为某个文件/某个文件夹/某些文件夹过大导致整个项目超过1G了导致的 试过其他教程里的设置depth为1,也改过git的postBuffer,都不管用 最后还是靠克隆指定文件夹这种方式成功把项目拉下来 1. Git Bash 输入命令 git clone --filterblob:none --sparse 项目路径…

建设局查询网站哪做网站比较好

文章目录 地址下载启动 使用 地址 JMeter官网下载:https://jmeter.apache.org/download_jmeter.cgi 下载 最新款的jmeter需要java8的支持,请自行安装jdk8或以上的版本 根据系统不同系统下载zip或者是tgz格式的压缩包,并解压,博…