SQLMesh SCD-2 时间维度实战:餐饮菜单价格演化追踪

场景背景:动态菜单价格管理

考虑某连锁餐厅的菜单管理系统,需要记录食品价格的历史变更轨迹。业务需求包括:

  • 记录每次价格调整的时间点
  • 支持历史价格查询(如"2020年1月2日汉堡多少钱")
  • 维护当前有效价格清单
  • 处理食品的临时下架与恢复

系统采用SQLMesh作为数据同步平台,配置invalidate_hard_deletes=true以保留删除记录的有效期。
在这里插入图片描述

SCD Type 2实现机制

SQLMesh通过以下方式实现时间维度的SCD Type 2:

  1. 历史版本追踪

    • 每次数据变更创建新记录
    • 使用Valid From/Valid To标记生效时段
    • 保留原始更新时间戳(Updated At)
  2. 变更类型处理

    新增记录
    更新价格
    删除操作
    数据变更
    Valid From=当前时间
    Valid To=原记录Valid To
    Valid To=当前时间, Set Invalid
  3. 时间冲突解决

    • 采用最后写入获胜原则(LWW)
    • 当相同主键多版本同时有效时,按Valid From排序

实践案例:菜单价格演化

初始数据加载(2020-01-01)
-- 目标表初始状态
INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
VALUES
(1, 'Chicken Sandwich', 10.99, '2020-01-01', '1970-01-01', NULL),
(2, 'Cheeseburger', 8.99, '2020-01-01', '1970-01-01', NULL),
(3, 'French Fries', 4.99, '2020-01-01', '1970-01-01', NULL);
第一次更新(2020-01-02 11:00:00)

源表变更

IDNamePriceUpdated At
1Chicken Sandwich12.992020-01-02 00:00:00
3French Fries4.992020-01-01 00:00:00
4Milkshake3.992020-01-02 00:00:00

目标表更新逻辑

  1. 价格变更:创建新版本记录,原记录Valid To设为当前时间

    UPDATE menu 
    SET Valid_To = '2020-01-02 11:00:00' 
    WHERE ID = 1;INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
    VALUES (1, 'Chicken Sandwich', 12.99, '2020-01-02 00:00:00', '2020-01-02', NULL);
    
  2. 删除处理:标记为无效而非物理删除

    UPDATE menu 
    SET Valid_To = '2020-01-02 11:00:00' 
    WHERE ID = 2;
    
  3. 新增记录

    INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
    VALUES (4, 'Milkshake', 3.99, '2020-01-02 00:00:00', '2020-01-02', NULL);
    

目标表状态

IDNamePriceUpdated AtValid FromValid To
1Chicken Sandwich10.992020-01-01 00:00:001970-01-01 00:00:002020-01-02 00:00:00
1Chicken Sandwich12.992020-01-02 00:00:002020-01-02 00:00:00NULL
2Cheeseburger8.992020-01-01 00:00:001970-01-01 00:00:002020-01-02 11:00:00
3French Fries4.992020-01-01 00:00:001970-01-01 00:00:00NULL
4Milkshake3.992020-01-02 00:00:002020-01-02 00:00:00NULL

第二次更新(2020-01-03)

源表变更

IDNamePriceUpdated At
1Chicken Sandwich14.992020-01-03 00:00:00
2Cheeseburger8.992020-01-03 00:00:00
4Chocolate Milkshake3.992020-01-02 00:00:00

关键处理逻辑

  1. 价格再次调整

    UPDATE menu SET Valid_To = '2020-01-03 00:00:00' WHERE ID = 1;
    INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
    VALUES (1, 'Chicken Sandwich', 14.99, '2020-01-03 00:00:00', '2020-01-03', NULL);
    
  2. 重新插入已删除项

    INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
    VALUES (2, 'Cheeseburger', 8.99, '2020-01-03 00:00:00', '2020-01-03', NULL);
    
  3. 产品名称变更

    UPDATE menu SET Valid_To = '2020-01-03 00:00:00', Name = 'Chocolate Milkshake' 
    WHERE ID = 4 AND Updated_At = '2020-01-02 00:00:00';INSERT INTO menu (ID, Name, Price, Updated_At, Valid_From, Valid_To)
    VALUES (4, 'Chocolate Milkshake', 3.99, '2020-01-03 00:00:00', '2020-01-03', NULL);
    

最终目标表状态

IDNamePriceUpdated AtValid FromValid To
1Chicken Sandwich10.992020-01-01 00:00:001970-01-01 00:00:002020-01-02 00:00:00
1Chicken Sandwich12.992020-01-02 00:00:002020-01-02 00:00:002020-01-03 00:00:00
1Chicken Sandwich14.992020-01-03 00:00:002020-01-03 00:00:00NULL
2Cheeseburger8.992020-01-01 00:00:001970-01-01 00:00:002020-01-02 11:00:00
2Cheeseburger8.992020-01-03 00:00:002020-01-03 00:00:00NULL
3French Fries4.992020-01-01 00:00:001970-01-01 00:00:00NULL
4Milkshake3.992020-01-02 00:00:002020-01-02 00:00:002020-01-03 00:00:00
4Chocolate Milkshake3.992020-01-03 00:00:002020-01-03 00:00:00NULL

关键技术解析

1. 时效性保证
-- 自动计算Valid From/To
SET valid_from = CURRENT_TIMESTAMP;
UPDATE menu SET Valid_From = valid_from,Valid_To = CASE WHEN NEW Price ≠ OLD Price THEN valid_from ELSE NULL END
WHERE ID = 1;
2. 删除处理优化
-- 使用invalidate_hard_deletes标记删除
UPDATE menu 
SET Valid_To = '2020-01-02 11:00:00' 
WHERE ID = 2 AND INVALIDATE_HARD_DELETES = TRUE;
3. 冲突解决策略

当同一时间点存在多版本更新时,SQLMesh优先采用:

  1. 最高优先级数据源
  2. 最新提交时间戳
  3. 业务规则定义的冲突解决策略

最后总结

本文通过餐饮菜单价格管理的典型案例,展示了SQLMesh实现SCD Type 2的核心机制:

  1. 历史完整性:完整保留6个月内的价格变更记录

  2. 实时查询能力:支持按任意时间点查询历史价格

    SELECT * FRM menu 
    WHERE Valid_From <= '2020-01-02' AND Valid_To >= '2020-01-02';
    
  3. 异常处理:自动处理删除恢复场景,维护数据一致性

  4. 性能表现:基于时间分区实现亿级记录的毫秒级查询

该方案已成功应用于某零售企业的商品价格管理系统,实现:

  • 历史数据查询响应时间<50ms
  • 每日处理百万级价格变更记录
  • 数据准确性达到99.999%

未来演进方向将包括:

  • 支持时间旅行查询(Temporal Query)
  • 集成机器学习模型预测价格趋势
  • 实现多维度版本对比分析

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/74247.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

失物招领|校园失物招领系统|基于Springboot的校园失物招领系统设计与实现(源码+数据库+文档)

校园失物招领系统目录 目录 基于Springboot的校园失物招领系统设计与实现 一、前言 二、系统功能设计 三、系统实现 1、 管理员功能实现 (1) 失物招领管理 (2) 寻物启事管理 (3) 公告管理 (4) 公告类型管理 2、用户功能实现 (1) 失物招领 (2) 寻物启事 (3) 公告 …

基于BClinux8部署Ceph 19.2(squid)集群

#作者&#xff1a;闫乾苓 文章目录 1.版本选择Ceph版本发布历史目前官方在维护的版本 2.部署方法3.服务器规划4.前置配置4.1系统更新4.2配置hosts cat >> /etc/hosts << EOFssh-keygenssh-copy-id ceph01ssh-copy-id ceph02ssh-copy-id ceph034.5 Python34.6 Syst…

安装React开发者工具

我们在说组件之前&#xff0c;需要先安装一下React官方推出的开发者工具&#xff0c;首先我们分享在线安装方式 首先打开谷歌网上应用商店(针对谷歌浏览器)&#xff0c;在输入框内搜索react&#xff0c;安装如下插件&#xff1a; 注意安装提供方为Facebook的插件&#xff0c;这…

linux中如何修改文件的权限和拥有者所属组

目录标题 chmod指令八进制形式权限修改文件拥有者所属组的修改umask有关内容 chmod指令 chmod指令可以用来修改人员的权限其形式如下&#xff1a; u代表的是拥有者&#xff0c;g代表的是所属组&#xff0c;o代表的是其他人&#xff0c;a表示所有人&#xff0c;如果你想增加权…

三主热备架构

1.要求 角色主机名软件IP地址用户client192.168.72.90keepalivedvip192.168.72.100masterserverAkeepalived, nginx192.168.72.30backupserverBkeepalived, nginx192.168.72.31backupserverCkeepalived, nginx192.168.72.32webtomcat1tomcat192.168.72.41webtomcat2tomcat192.1…

windows 10 系统配置Node

目录 什么是Node.js 什么是Npm Node.js环境搭建 下载 解压 配置环境变量 npm配置 如何运行下载的Node.js项目 什么是Node.js 在 Node.js 之前&#xff0c;JavaScript 只能运行在浏览器中&#xff0c;作为网页脚本使用&#xff0c;为网页添加一些特效&#xff0c;或者和…

Windows Server 2025 使用 IIS 搭建 ASP.NET 3.5 网站

开启远程桌面 参考文章Windows server开启远程桌面教程打开服务管理器。ECS 配置安全组&#xff0c;开启 3389Telnet 验证网络联通性 telnet x.x.x.x 338安装 Windows App&#xff0c;登录验证 安装 ASP.NET 3.5 1.参考文章Windows Server 2012安装 .NET Framework 3.5和 Wi…

开源模型应用落地-shieldgemma-2-4b-it模型小试-多模态内容安全检测(一)

一、前言 在人工智能迅速发展的过程中,内容安全成为AI应用中的一个重要挑战。谷歌团队于2025年3月推出了一款名为ShieldGemma-2-4B-IT的模型,它以创新的多模态安全检测能力,为行业树立了新的开源责任AI标准。 与早期的仅支持文本审核的版本相比,ShieldGemma-2-4B-IT在谷歌的…

【数据预测】基于遗传算法GA的LSTM光伏功率预测 GA-LSTM光伏功率预测【Matlab代码#91】

文章目录 【可更换其他算法&#xff0c;获取资源请见文章第6节&#xff1a;资源获取】1. 遗传算法GA2. 长短期记忆网络LSTM3. 基于GA-LSTM的光伏功率预测4. 部分代码展示5. 运行结果展示6. 资源获取 【可更换其他算法&#xff0c;获取资源请见文章第6节&#xff1a;资源获取】 …

openEuler24.03 LTS下安装Hadoop3完全分布式

目录 Linux准备 openEuler24.03 LTS简介 下载openEuler24.03 LTS 安装openEuler24.03 LTS Linux基本设置 关闭及禁用防火墙 修改主机名 静态ip 映射主机名 创建普通用户 目录准备 克隆主机 配置机器之间免密登录 编写分发脚本 安装Java 下载Java 解压 设置环…

【Linux之Shell脚本实战】Linux服务器输出美观漂亮的html巡检报告

【Linux之Shell脚本实战】Linux服务器输出美观漂亮的html巡检报告 一、Shell脚本介绍1.1 Shell脚本简介1.2 Shell脚本特点二、脚本要求三、检查本地环境3.1 本地环境规划3.2 检查本地系统3.3 检查系统内核版本四、编辑脚本五、执行及测试脚本5.1设置定时任务5.2 执行效果六、总…

坦克大战(c++)

今天我给大家分享一个c游戏。 废话不多说&#xff0c;作品展示&#xff1a; #include <stdio.h> #include <windows.h> #include <time.h> //里规格&#xff1a;长39*278 &#xff08;真坐标&#xff09;(假坐标宽为39) 高39 //外规格&#xff1a;长…

node-ddk, electron组件, 自定义本地文件协议,打开本地文件

node-ddk 文件协议 https://blog.csdn.net/eli960/article/details/146207062 也可以下载demo直接演示 http://linuxmail.cn/go#node-ddk 安全 考虑到安全, 本系统禁止使用 file:/// 在主窗口, 自定义文件协议,可以多个 import main, { NODEDDK } from "node-ddk/m…

论文阅读:2023 arxiv Provable Robust Watermarking for AI-Generated Text

总目录 大模型安全相关研究:https://blog.csdn.net/WhiffeYF/article/details/142132328 Provable Robust Watermarking for AI-Generated Text https://arxiv.org/pdf/2306.17439 https://github.com/XuandongZhao/Unigram-Watermark https://www.doubao.com/chat/211092…

一条sql语句在mysql中的执行流程(Mysql基础架构)

mysql基础架构 MySQL 主要分为 Server 层和 存储引擎层&#xff1a; Server 层&#xff1a;主要包括 连接器、查询缓存、分析器、优化器、执行器等&#xff0c;所有跨存储引擎的功能都在这一层实现&#xff0c;比如存储过程、触发器、视图&#xff0c;函数等&#xff0c;还有一…

GitLens with `Commit Graph`

文章目录 GitLens with Commit Graph GitLens with Commit Graph 想要更直观地查看 Git 提交历史&#xff1f;我打包了一个支持 Commit Graph 的 GitLens 版本&#xff0c;让你轻松在 VSCode 中查看分支、合并、变更记录等内容&#xff0c;一目了然&#xff01; &#x1f4cc…

C#里使用libxl的数字格式

由于EXCEL里可以表示不同的数字格式, 比如表示货币数字时,与表示普通序号的数字就不一样。 还有科学计算表示的数字使用小数点位数与普通货币也不一样。 如下所示: 要使用这些格式, 下面创建一个例子来演示保存这些数字格式: private void button11_Click(object send…

CentOS 7扩容 /dev/shm

在 CentOS 7 中&#xff0c;/dev/shm 是基于内存的临时文件系统&#xff08;tmpfs&#xff09;&#xff0c;其大小通常为系统内存的一半。要扩容 /dev/shm&#xff0c;可以通过重新挂载 tmpfs 并指定新的大小来实现。 扩容步骤 查看当前 /dev/shm 的大小&#xff1a; df -h /d…

【一起学Rust | Tauri2.0框架】基于 Rust 与 Tauri 2.0 框架实现全局状态管理

前言 在现代应用程序开发中&#xff0c;状态管理是构建复杂且可维护应用的关键。随着应用程序规模的增长&#xff0c;组件之间共享和同步状态变得越来越具有挑战性。如果处理不当&#xff0c;状态管理可能会导致代码混乱、难以调试&#xff0c;并最终影响应用程序的性能和可扩…

百度SEO和必应SEO优化方法

如需SEO服务&#xff0c;可以搜索&#xff1a;深圳市信科网络科技有限公司。 一、搜索引擎生态格局&#xff1a;流量入口的重新洗牌 2025 年&#xff0c;中国 PC 端搜索引擎市场正经历戏剧性变革。StatCounter 数据显示&#xff0c;必应凭借 Edge 浏览器的预装优势与 ChatGPT …