Linux上用C++和GCC开发程序实现两个不同MySQL实例下单个Schema稳定高效的数据迁移到其它MySQL实例

设计一个在Linux上运行的GCC C++程序,同时连接三个不同的MySQL实例,其中两个实例中分别有两个Schema的表结构分别与第三实例中两个Schema个结构完全相同,同时复制两个实例中两个Schema里的所有表的数据到第三个实例中两个Schema里,使用以下快速高效的方法,加入异常处理,支持每隔固定时间重试一定次数,每张表的复制运行状态和记录条数,开始结束时间戳,运行时间,以及每个批次的运行状态,开始结束时间戳,运行时间,总记录条数都要到运行日志文件里,日志文件全部放在logs目录下,每天一个.log扩展名的文本文件,文件名带日期,所有运行参数写在json配置文件中。

C++解决方案,采用模块化设计并包含详细注释:

该实现结合了C++的高效性和现代C++的特性,同时利用MySQL X DevAPI提供的高性能接口,能够有效处理大规模数据复制需求。

#include <iostream>
#include <fstream>
#include <chrono>
#include <thread>
#include <vector>
#include <map>
#include <mysqlx/xdevapi.h>
#include <nlohmann/json.hpp>
#include <filesystem>
#include <mutex>using namespace std;
using namespace mysqlx;
using json = nlohmann::json;
namespace fs = filesystem;// 配置结构体
struct Config {struct DBConfig {string host;int port;string user;string password;};DBConfig source1;DBConfig source2;DBConfig target;int max_retries = 3;int retry_interval = 60; // secondsmap<string, vector<string>> schema_mapping;
};// 日志管理器类
class Logger {
private:mutex log_mutex;string log_dir = "logs";string get_current_date() {auto now = chrono::system_clock::now();time_t t = chrono::system_clock::to_time_t(now);tm tm = *localtime(&t);char buffer[11];strftime(buffer, sizeof(buffer), "%Y%m%d", &tm);return string(buffer);}public:Logger() {if (!fs::exists(log_dir)) {fs::create_directory(log_dir);}}void log(const string& message) {lock_guard<mutex> lock(log_mutex);ofstream log_file(log_dir + "/" + get_current_date() + ".log",ios::app);auto now = chrono::system_clock::now();time_t t = chrono::system_clock::to_time_t(now);log_file << put_time(localtime(&t), "%Y-%m-%d %H:%M:%S") << " | " << message << endl;}
};// 数据库操作类
class DBOperator {Config& config;Logger& logger;Session connect_db(const Config::DBConfig& db_conf) {try {return Session(db_conf.host, db_conf.port, db_conf.user, db_conf.password);} catch (const Error& e) {logger.log("Connection error: " + string(e.what()));throw;}}public:DBOperator(Config& cfg, Logger& log) : config(cfg), logger(log) {}void copy_table_data(Schema& source_schema, Schema& target_schema,const string& table_name,int batch_size = 1000) {auto start_time = chrono::system_clock::now();string log_prefix = "Table[" + table_name + "] ";try {Table source_table = source_schema.getTable(table_name);Table target_table = target_schema.getTable(table_name);int total_rows = 0;RowResult res = source_table.select("*").execute();while (const Row row = res.fetchOne()) {vector<Row> batch;for (int i = 0; i < batch_size && row; ++i) {batch.push_back(row);total_rows++;if (i < batch_size-1) row = res.fetchOne();}target_table.insert().rows(batch).execute();}auto end_time = chrono::system_clock::now();auto duration = chrono::duration_cast<chrono::milliseconds>(end_time - start_time);logger.log(log_prefix + "SUCCESS | Rows: " + to_string(total_rows) +" | Duration: " + to_string(duration.count()) + "ms");} catch (const Error& e) {logger.log(log_prefix + "ERROR: " + string(e.what()));throw;}}void copy_schema(Session& source_session, Session& target_session,const string& source_schema_name,const string& target_schema_name,const vector<string>& tables) {Schema source_schema = source_session.getSchema(source_schema_name);Schema target_schema = target_session.getSchema(target_schema_name);for (const auto& table : tables) {for (int attempt = 0; attempt < config.max_retries; ++attempt) {try {copy_table_data(source_schema, target_schema, table);break;} catch (...) {if (attempt == config.max_retries-1) {logger.log("Table[" + table + "] FAILED after " + to_string(config.max_retries) + " attempts");}this_thread::sleep_for(chrono::seconds(config.retry_interval));}}}}
};int main(int argc, char** argv) {try {// 加载配置文件ifstream config_file("config.json");json config_json = json::parse(config_file);Config config;config.source1 = config_json["source1"];config.source2 = config_json["source2"];config.target = config_json["target"];config.schema_mapping = config_json["schema_mapping"];Logger logger;DBOperator db_operator(config, logger);// 连接数据库Session source1 = db_operator.connect_db(config.source1);Session source2 = db_operator.connect_db(config.source2);Session target = db_operator.connect_db(config.target);// 执行复制任务for (const auto& [source_schema, target_schema] : config.schema_mapping) {vector<string> tables = config.schema_mapping[source_schema];// 从第一个源复制db_operator.copy_schema(source1, target, source_schema, target_schema, tables);// 从第二个源复制db_operator.copy_schema(source2, target, source_schema, target_schema, tables);}} catch (const exception& e) {cerr << "Fatal error: " << e.what() << endl;return 1;}return 0;
}

配置文件示例 (config.json):

{"source1": {"host": "source1.example.com","port": 3306,"user": "user","password": "password"},"source2": {"host": "source2.example.com","port": 3307,"user": "user","password": "password"},"target": {"host": "target.example.com","port": 3308,"user": "user","password": "password"},"max_retries": 3,"retry_interval": 60,"schema_mapping": {"source_schema1": ["table1", "table2"],"source_schema2": ["table3", "table4"]}
}

关键特性说明:

  1. 配置管理
  • 使用JSON配置文件存储数据库连接参数和复制参数
  • 支持灵活的模式映射配置
  • 可配置重试策略和批量大小
  1. 日志系统
  • 自动创建日志目录
  • 按天滚动日志文件
  • 详细记录每个操作的元数据
  • 线程安全的日志写入
  1. 数据复制
  • 使用MySQL X DevAPI进行高效数据操作
  • 批量插入机制提升性能
  • 自动重试机制和错误隔离
  • 表级并行复制(可扩展)
  1. 异常处理
  • 多级异常捕获机制
  • 连接失败自动重试
  • 数据操作错误隔离
  • 资源自动释放保障
  1. 扩展性
  • 模块化设计便于功能扩展
  • 支持动态表列表配置
  • 可扩展的多线程支持

编译运行:

# 安装依赖
sudo apt-get install libmysqlcppconn-dev nlohmann-json3-dev# 编译
g++ -std=c++17 -o db_sync main.cpp -lmysqlcppconn8 -lpthread# 运行
./db_sync

建议的优化扩展方向:

  1. 并行处理
  • 使用线程池实现表级并行复制
  • 异步IO提升吞吐量
  • 连接池管理数据库连接
  1. 监控增强
  • 实时进度报告
  • Prometheus指标导出
  • 健康检查端点
  1. 高级功能
  • 增量复制支持
  • 模式校验机制
  • 数据一致性校验
  • 自动断点续传
  1. 部署优化
  • Docker容器化封装
  • Systemd服务集成
  • 配置热加载支持

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/71138.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何评估所选择的PHP后端框架的性能?

大家在选择PHP后端框架的时候&#xff0c;如果想评估其性能如何&#xff0c;能不能扛得住你的项目&#xff1f;可以根据以下几点进行分析&#xff0c;帮助大家选择到更符合自己心目中的PHP后端框架。 1. 基准测试 基准测试是评估框架性能的基础方法&#xff0c;主要通过模拟高…

P8649 [蓝桥杯 2017 省 B] k 倍区间--前缀和--同余定理【蓝桥杯简单题-必开long long】

P8649 [蓝桥杯 2017 省 B] k 倍区间--前缀和--同余定理 题目 分析代码 还有一件事【老爹音】 题目 分析 首先&#xff0c;看到”连续子序列求和”这一要求时&#xff0c;我们果断选择前缀和解答。 接着就要用到一个非常巧妙的“同余定理”——如果 sum[j] % K sum[i] % K&am…

如何免费使用稳定的deepseek

0、背景&#xff1a; 在AI辅助工作中&#xff0c;除了使用cursor做编程外&#xff0c;使用deepseek R1进行问题分析、数据分析、代码分析效果非常好。现在我经常会去拿行业信息、遇到的问题等去咨询R1&#xff0c;也给了自己不少启示。但是由于官网稳定性很差&#xff0c;很多…

拉链表介绍

拉链表 是处理 缓慢变化维&#xff08;SCD&#xff09; 的一种常用方法&#xff0c;特别适用于需要保留历史记录的场景。以下是拉链表的详细说明及实现方法&#xff1a; 1. 什么是拉链表&#xff1f; 拉链表是一种用于记录维度数据历史变化的表结构&#xff0c;通过 开始时间 …

ChatGPT与DeepSeek:AI语言模型的巅峰对决

目录 引言 一、ChatGPT 与 DeepSeek 简介 &#xff08;一&#xff09;ChatGPT &#xff08;二&#xff09;DeepSeek 二、技术原理剖析 &#xff08;一&#xff09;ChatGPT 技术原理 &#xff08;二&#xff09;DeepSeek 技术原理 &#xff08;三&#xff09;技术原理对比…

【愚公系列】《Python网络爬虫从入门到精通》036-DataFrame日期数据处理

标题详情作者简介愚公搬代码头衔华为云特约编辑,华为云云享专家,华为开发者专家,华为产品云测专家,CSDN博客专家,CSDN商业化专家,阿里云专家博主,阿里云签约作者,腾讯云优秀博主,腾讯云内容共创官,掘金优秀博主,亚马逊技领云博主,51CTO博客专家等。近期荣誉2022年度…

PDF文档中表格以及形状解析

我们在做PDF文档解析时有时需要解析PDF文档中的表格、形状等数据。跟解析文本类似的常见的解决方案也是两种。文档解析跟ocr技术处理。下面我们来看看使用文档解析的方案来做PDF文档中的表格、图形解析&#xff08;使用pdfium库&#xff09;。 表格解析&#xff1a; 在pdfium库…

ES、OAS、ERP、电子政务、企业信息化(高软35)

系列文章目录 ES、OAS、ERP、电子政务、企业信息化 文章目录 系列文章目录前言一、专家系统&#xff08;ES&#xff09;二、办公自动化系统&#xff08;OAS&#xff09;三、企业资源规划&#xff08;ERP&#xff09;四、典型信息系统架构模型1.政府信息化和电子政务2.企业信息…

存储对象(MySQL笔记第五期)

p.s.这是萌新自己自学总结的笔记&#xff0c;如果想学习得更透彻的话还是请去看大佬的讲解 目录 视图视图的检查选项视图的更新及作用 存储过程变量系统变量用户定义变量局部变量 IF判断、casewhile、pereat、loop游标(cursor)条件处理程序(handler) 存储函数触发器 -- 表结构…

释放你的IDE潜能:Code::Blocks 插件创意开发深度指南

释放你的IDE潜能:Code::Blocks 插件创意开发深度指南 在软件开发的浩瀚世界中,集成开发环境 (IDE) 扮演着至关重要的角色。一款优秀的 IDE 不仅能提升开发效率,更能激发开发者的创造力。Code::Blocks,作为一款开源、跨平台的 C, C++ 和 Fortran IDE,以其轻量级、高度可定…

Graphics View画一个可调速的风机(pyqt)

效果如图&#xff1a; 风机具备调节转速的功能&#xff0c;转速通过扇叶旋转的快慢来区别&#xff0c;共分为四档&#xff0c;其中零档为静止状态&#xff0c;而一、二、三档则依次增加转速。在代码中&#xff0c;BlowerWrapper 类包含了可旋转的扇叶、风机外框以及选项三个主要…

人工智能之数学基础:线性代数中矩阵的运算

本文重点 矩阵的运算在解决线性方程组、描述线性变换等方面发挥着至关重要的作用。通过对矩阵进行各种运算,可以简化问题、揭示问题的本质特征。在实际应用中,我们可以利用矩阵运算来处理图像变换、数据分析、电路网络等问题。深入理解和掌握矩阵的运算,对于学习线性代数以…

Java 大视界 -- Java 大数据机器学习模型的可解释性增强技术与应用(107)

&#x1f496;亲爱的朋友们&#xff0c;热烈欢迎来到 青云交的博客&#xff01;能与诸位在此相逢&#xff0c;我倍感荣幸。在这飞速更迭的时代&#xff0c;我们都渴望一方心灵净土&#xff0c;而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识&#xff0c;也…

02内存映射与bmp解码

一、mmap 内存映射 内存映射的作用是把硬件设备的地址&#xff0c;映射到应用层的内存空间&#xff0c;这样用户就可以跨越系统层访问linux的硬件设备。 1、man 2 mmap 查看映射函数接口 NAMEmmap, munmap - map or unmap files or devices into memory映射 解除…

基于PLC的智能窗控制系统设计

摘 要 对于智能窗控制系统来说&#xff0c;该工艺设计主要通过三种控制模式进行窗户的开关设计,当手动模式时,通过手动按钮控制窗户的开关,天气控制模式时,根据室外湿度和风速控制窗户的开关,室内控制模式时,通过室内的温度控制窗户的开关.按照此设计要求&#xff0c;系统通过可…

建筑兔零基础人工智能自学记录34|深度学习与神经网络2

1、人工神经网络ANN 从生物课上学到的有关神经元、突触的生物神经网络&#xff0c;被模仿出了简化的人工神经网络&#xff08;ANN,artificial neural network&#xff09;。 ANN结构为&#xff1a;输入层、隐藏层、输出层 人工神经元&#xff1a; 基于生物神经元的数学模型 …

手机放兜里,支付宝“碰一下”被盗刷?

大家好&#xff0c;我是小悟。 近期&#xff0c;网络上关于“支付宝‘碰一下’支付易被盗刷”的传言甚嚣尘上&#xff0c;不少用户对此心生疑虑。 首先&#xff0c;要明确一点&#xff1a;“碰一下”支付并不会像某些传言中所描述的那样容易被隔空盗刷。这一观点已经得到了支付…

最新版本SpringAI接入DeepSeek大模型,并集成Mybatis

当时集成这个环境依赖冲突&#xff0c;搞了好久&#xff0c;分享一下依赖配置 <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0" xmlns:xsi"http://www.w3.org/2001/XMLSchema-instan…

Spring Boot 流式响应豆包大模型对话能力

当Spring Boot遇见豆包大模型&#xff1a;一场流式响应的"魔法吟唱"仪式 一、前言&#xff1a;关于流式响应的奇妙比喻 想象一下你正在火锅店点单&#xff0c;如果服务员必须等所有菜品都备齐才一次性端上来&#xff0c;你可能会饿得把菜单都啃了。而流式响应就像贴…

例子 DQN + CartPole: 深入思考一下,强化学习确实是一场智能冒险之旅!

强化学习的概念 在技术人员眼里&#xff0c;深度学习、强化学习&#xff0c;或者是大模型&#xff0c;都只是一些算法。无论是简单&#xff0c;还是复杂&#xff0c;我们都是平静的看待。当商业元素日益渗透进技术领域&#xff0c;人人言必称大模型的时候。技术人该反思一下&a…