es 全量同步mysql_使用canal将mysql同步到es中

因为自己项目中需要用到mysql数据同步到es中,查找了相关资料最后决定用canal来做,所以便有了本文,下面一起来看如何使用canal吧

f91f119e879b0c352fce8b3be66d7cd9.png

canal教程

根据 https://github.com/alibaba/canal 上的原理解释,我们知道 canal 会模拟 mysql slave 的交互协议,伪装自己为 mysql slave,然后向 mysql master 发送 dump 协议。

mysql master 收到 dump 请求,开始推送 binary log 给 slave(也就是 canal),然后 canal 解析 binary log 对象(原始为 byte流)。

经 canal 解析过的对象,我们使用起来就非常的方便了。

再根据 https://github.com/alibaba/canal/releases 提供的版本信息,你会发现 canal 其实相当于一个中间件,专门用来解析 MySQL 的 binlog 日志。canal 解析好了之后,会封装成一个数据对象,通过 protobuf3.0 协议进行交互,让 canal 客户端进行消费。

根据上面的解释,以及 canal 提供的版本信息,我们在使用 canal 的时候,首选要安装一个 canal.deployer-1.1.4.tar.gz 进行解析 MySQL 的 binlog 日志。

e0d88fa446923b30fae672f28ec326ee.png

下载后,复制 canal.deployer-1.1.4.tar.gz 到 MySQL 主机上,比如放在 /usr/local/soft/目录下。然后依次执行下面的命令:

mkdir canalcd canaltar -zxvf ../canal.deployer-1.1.4-SNAPSHOT.tar.gz

然后修改 canal 的配置文件 vim conf/example/instance.properties

866b19df9e8f27c7f559360ae5a8ea9f.png

这三项改成你自己的,比如我的配置如下:

canal.instance.dbUsername=canalcanal.instance.dbPassword=canalcanal.instance.connectionCharset = UTF-8canal.instance.defaultDatabaseName =canal_test

然后保存并退出。(VI 模式下,按 Esc 输入 :wq 回车退出。)

接着,我们检查一下 MySQL 的配置。确定版本和是否开启了 binlog 日志,以及日志格式。

show variables like 'binlog_format';show variables like 'log_bin';select version();

canal 支持 binlog 格式为 ROW 的模式。如果你没开启 binlog,并且格式是非 row 的,建议修改一下 mysql 的配置文件。

执行 mysql –help | grep my.cnf 找到 mysql 的 my.cnf 文件。

执行 vim /etc/my.cnf 命令。添加下面 3 个配置。

log-bin=mysql-bin #添加这一行就okbinlog-format=ROW #选择row模式server_id=1 #配置mysql replaction需要定义,不能和canal的slaveId重复

然后保存并退出。

接着执行 sudo service mysqld restart 重启 MySQL。

需要注意的是你的 mysql 用户,必须要有 REPLICATION SLAVE 权限。该权限授予 slave 服务器以该账户连接 master 后可以执行 replicate 操作的权利。

如果没有权限,则使用 root 账户登录进 MySQL,执行下面的语句,创建用户,分配权限。

CREATE USER canal IDENTIFIED BY ‘canal’;GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON . TO ‘‘canal’’@’%’;FLUSH PRIVILEGES;

MySQL 启动后,就可以开启 canal 服务了。

/usr/local/soft/canal/bin/startup.sh

开启后,观察 canal 服务的日志,确保服务正常。

tail 300f /usr/local/soft/canal/logs/canal/canal.log

查看 canal 的日志

确定没有问题后,开始编写我们的测试程序。

pom.xml 中导入下面的依赖。

com.alibaba.otter canal.client 1.1.4

使用JAVA进行测试

import java.net.InetSocketAddress;import java.util.List;import com.alibaba.otter.canal.client.CanalConnectors;import com.alibaba.otter.canal.client.CanalConnector;import com.alibaba.otter.canal.common.utils.AddressUtils;import com.alibaba.otter.canal.protocol.Message;import com.alibaba.otter.canal.protocol.CanalEntry.Column;import com.alibaba.otter.canal.protocol.CanalEntry.Entry;import com.alibaba.otter.canal.protocol.CanalEntry.EntryType;import com.alibaba.otter.canal.protocol.CanalEntry.EventType;import com.alibaba.otter.canal.protocol.CanalEntry.RowChange;import com.alibaba.otter.canal.protocol.CanalEntry.RowData;public class SimpleCanalClientExample {public static void main(String args[]) { // 创建链接 CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress(AddressUtils.getHostIp(), 11111), "example

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/442315.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

一个列中多行求和_excel表格制作,Excel表格的基本操作,包含制作一个表格10方面的知识(1)...

蒹葭苍苍,白露为霜。所谓伊人,在水一方。溯洄从之,道阻且长。溯游从之,宛在水中央。蒹葭萋萋,白露未晞。所谓伊人,在水之湄。溯洄从之,道阻且跻。溯游从之,宛在水中坻。蒹葭采采&…

集成spark_全面对比,深度解析 Ignite 与 Spark

经常有人拿 Ignite 和 Spark 进行比较,然后搞不清两者的区别和联系。Ignite 和 Spark,如果笼统归类,都可以归于内存计算平台,然而两者功能上虽然有交集,并且 Ignite 也会对 Spark 进行支持,但是不管是从定位…

python编写自制编译器_编译器构造-编译Python

Python是一种解释型语言,因此您无需对其进行编译。 只是为了运行它。 碰巧的是,标准版本的python会像Java等一样将其编译为“字节码”,并将其保存(保存在.pyc文件中)并在下次运行,以节省时间(如果尚未更新)。 该文件自。 如果您更…

false shell 判断_六、Shell流程控制-if判断语句

1. shell中的运算1.1 数学比较运算-eq 等于-ne 不等于-lt 小于-gt 大于-le 小于等于-ge 大于等于浮点数的比较建议将数字等比放大至整数进行比较,例如#比较1.5和2的大小test echo 1.5*10|bc|awk -F "." {print $1} -lt $((2*10))1.2 文件比较运算-d 检查目…

hdfs如何查找指定目录是否文件_hadoop实战教程-HDFS文件系统如何查看文件对应的block...

问题导读:1.文件与block的信息被保存在什么文件中?2.如何查看整个目录树?3.可以通过什么方式查看文件与block的对应关系?(1)文件分割后,会有一个 文件 --> block的映射,这个映射是持久化到硬盘中的&…

实时监控后台数据 vue_实时数据监控,快速掌握B站爆款视频热度走向

飞瓜数据B站版的数据监控功能提供对B站UP主监控功能,实时掌握UP主视频热度走向和投放效果。通过监控输入B站视频链接,设定24/48时长开始对其监控。监控开始后在监控报告中查看对应视频的数据曲线变化或者等待监控结束直接观察整个的曲线走势。实现分钟打…

帧同步_帧同步和状态同步该怎么选(上)

这是一篇拖延了2年多的文章…2017年10月份开始写的,直到这次过年才写完。。。前言随着王者荣耀的崛起,使用帧同步(Lockstep)的游戏也越来越多,关于帧同步和状态同步的讨论争论也有不少,那么到底该选哪种同步…

实现连麦_直播课程系统如何实现互动连麦效果?

比起录播课,直播课师生能够更好地互动,因此很多老师利用直播课程系统进行直播教学。直播课程系统的连麦互动往往能让直播课充满生机。在直播教学中使用连麦互动功能,老师可以随时提问学生,学生也可以就不懂的问题询问老师&#xf…

json 潜逃 结构体_JSON还原为结构体 - osc_t5zhwnvx的个人空间 - OSCHINA - 中文开源技术交流社区...

JSON还原为结构体1)JSON字符串还原为结构体;2)访问结构体的字段值;本例运行效果图:usesSynCommons;const // JSON字符串JSON1 { #13#10 "glossary": { #13#10 "title": "中国", #13#10 "GlossDiv&q…

c++ 二次开发 良田高拍仪_在网页中调用摄像头实现拍照上传 - 高拍仪二次开发...

来源于 https://blog.csdn.net/weixin_40659738/article/details/78252562在网页中调用摄像头实现拍照上传高拍仪二次开发在一些公共部门的办事处,比如银行、护照办理中心、税务等,我们可能会注意到办公桌上摆着这样一台机器。办公人员用它拍摄各种证件…

rust睡觉按键没反应_Rust 有问有答之 use 关键字

use 是什么use 是 Rust 编程语言的关键字。using 是 编程语言 C# 的关键字。关键字是预定义的保留标识符,对编译器有特殊意义。using 关键字有三个主要用途:using 语句定义一个范围,在此范围的末尾将释放对象。using 指令为命名空间创建别名&…

复频域求零输入响应_第十四章 动态电路的复频域分析 习题答案

第十四章 动态电路的复频域分析一、选择题1. 图13—1所示电感元件的电压、电流关系的运算形式是 B 。A .)0()()(-L L L Li s sLI s U ;B .)0()()(--L L L Li s sLI s U ;C .si s sLI s U L L L )0()()(- 2&…

cancase vector_基于Vector总线设备的CAN总线测试方法概述

3.3采样点位置测试测试设备:CANoe、CANStressDR。测试系统架构中需将CANScope旁路处理。测试设备正确接线后(CANStressDR串接在回路中),CANoe发送报文,CANStressDR采用位干扰的方式进行干扰,具体是采用CANStressDR从后往前逐位干扰…

mysql实现分页_MySql实现分页查询的SQL,mysql实现分页查询的sql语句 (转)

http://blog.csdn.net/sxdtzhaoxinguo/article/details/51481430摘要:MySQL数据库实现分页查询的SQL语句写法!一:分页需求:客户端通过传递start(页码),limit(每页显示的条数)两个参数去分页查询数据库表中的数据&#…

mysql不能通过ip地址访问权限_解决mysql中只能通过localhost访问不能通过ip访问的问题...

解决mysql中只能通过localhost访问不能通过ip访问的问题原因是没开权限select * from user where userroot;grant all privileges on *.* to root% identified by 123456;flush privileges;1. 命令行进入mysql(假设root用户的密码也为root)mysql –uroot –proot2. 使用mysql数…

mysql评论表结构设计_文章评论嵌套显示mysql表结构如何设计(形式如网易新闻评论)...

现在有一张post表 (结构不能改变)tid 主题pidpid 回复id现在新增了评论嵌套显示功能,即tid1a评论了一条 pid为1b回复了a的评论 pid为2c回复了b的评论 pid为3d回复了a pid为4显示为1楼 pid12楼 pid1,pid23楼 pid1,pid2,pid34楼 pid1,pid4即每一个对他人的回复都需要引…

源码mysql5.7安装过程_mysql5.7 源码安装步骤

操作系统:centos 7说明:以下都是root用户操作的。一、数据库安装1、查看系统是否有旧版的mysql# rpm -qa |egrep -i mysql|mariadb如果有的话请先卸载,卸载命令:# rpm -ev 软件包名称2、查看老版本mysql相关的安装目录&#xff1a…

mysql授权 改表_mysql开启远程登陆(修改数据表和授权两种方法)

一、确认防火墙没有阻止3306端口(一般服务器默认会屏蔽掉)windows防火墙例外设置方法控制面板(右上角选择查看方式为大图标)---防火墙---高级设置---高级设置---出站规则---最右边 新建规则“新建出站规则向导”,在向导的第一步,选择要创建的防火墙规则类…

springboot2整合mysql5_SpringBoot2.X (二十五):SpringBoot整合 Mybatis + MySQL CURD 示例

话不多数,直接开始撸代码…工程结构图开始之前先放张工程结构图1、maven 依赖:org.springframework.bootspring-boot-starter-weborg.mybatis.spring.bootmybatis-spring-boot-starter1.3.2com.github.pagehelperpagehelper-spring-boot-starter1.2.9com…

mysql crash 如何导出数据库_mysql 如何做到crash后无损恢复数据的

ps真实的流程没有我说的那么简单,下面的是最基本的情况。预备知识redologbinlogWAL机制redolog简介redolog是个循环日志,其大小固定为4g,存在2个指针来定位其是否已经满了。一个指针是当前写,一个指针是当前checkpoint,其2个指针的…