动态加速中优化失败路径反馈的方法

本文分享自天翼云开发者社区《动态加速中优化失败路径反馈的方法》.作者:尹****聪

1 背景

动态探测是周期性进行的,全局默认2分钟,支持分频道设置探测频率(最低1s探测频率),这就决定了选路也是周期性的,在两次最优路径更新的时间间隔内,如果回源链路发生波动,则只能依靠失败后重试来解决,如果域名并发量很大,同一时间可能产生大量重试,这样一方面客户体验不好,另一方面也加重了平台的压力。

2 方案

2.1 错误信息格式

路径失败主要包括两种类型,包括父层返回错误和源站返回错误(建联失败或者返回4xx,5xx),可以通过内部头,把产生错误的源地址、目的地址、目的端口,后端角色和时间戳返回给边缘。

2.2 错误信息存储

边缘需要对错误信息进行存储,并在选路时通过对选路信息和错误信息做对比,剔除掉已经置为不可用的路径信息。

边缘错误信息的存储有两种存储方式:一是lua的共享字典 shared.dict 方式,二是lua的 lrucache 方式

lua共享字典 shared.shict 使用的是共享内存,每次操作都是全局锁,如果高并发环境,不同 worker 之间容易引起竞争。所以单个 shared.dict 的体积不能过大。

lrucache 是 worker 内使用的,由于 Nginx 是单进程方式存在,所以永远不会触发锁,效率上有优势,并且没有 shared.dict 的体积限制,内存上也更弹性,但不同 worker 之间数据不同享,同一缓存数据可能被冗余存储。

比较了上述两种错误信息的存储方式,结合此功能的业务场景是应用在高并发时减少重试的次数,所以考虑使用 lrucache 更合适一些。这样实现出来的效果就跟 nginx 原生的 max_fails 和 fail_timeout 的配置效果相似了(nginx 原生的max_fails 和 fail_timeout 是在单 worker 内进行统计并起作用的)。

2.3 错误路径对比

(1)单位周期内发生M次错误

在单 worker 单位周期为 fail_timeout 设置的时间中,失败达到 max_fails 次数,那么接将把节点标记为不可使用,对于已经标记为down的节点,在这个周期中不再使用包含此节点的路径。

等待下一个周期(同样为fail_timeout)再一次去请求,判断能否连接能否成功,开启下一次的循环。

源ip,目的ip,目的端口加入到匹配判断当中,对于不符合的路径信息剔除掉

(2)连续发生N次错误

在单 worker 单位周期为 fail_timeout 设置的时间中,连续失败达到 conti_max_fails 次数,那么接将把节点标记为不可使用,对于已经标记为down的节点,在这个周期中不再使用包含此节点的路径。等待下一个周期(同样为fail_timeout)再一次去请求,判断能否连接能否成功,开启下一次的循环。

连续发生N次错误和单位周期内发生M次错误,两者是或的关系,当满足其中任何一个条件时,都把后端错误的节点置为down。

3 配置方式

源站的配置方式,可以针对不同源站设置不同的最大失败次数,连续失败次数和失败的超时时间, 父层属于内部节点没必要做分开统计,做成一个统一的配置项即可。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/938420.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

铜价冲击下,如何“锁住”母排利润?

面对持续高位的铜材价格,母排作为关键导体,其成本管控已成为电气设备企业盈利能力的关键。利驰软件SuperPanel母排设计软件,通过贯穿设计、生产与采购的全流程数据化管理,为企业提供从“精准预知”到“精准执行”的…

前端快速开发工具推荐与实战 让开发速度提升 3 倍的完整工具链

本文系统介绍前端快速开发工具,包括 VS Code、Postman、Charles、WebDebugX 等,结合实战经验总结从编码、构建、调试到优化的完整提效工具链。一个页面上线早一小时,可能就能多获取成千上万的访问量。 但“快”,从…

js代码、js文件混淆、加密

加密后效果: 步骤(如果没有nodejs环境需要安装nodejs环境:https://blog.nanzhi.vip/?article_id=9&type=url): 1.安装插件:npm install -g javascript-obfuscator 2.创建文件obfuscation-config.json (名称…

Salesforce推出AI版Setup,说句话就能搞定配置?

Salesforce 又一次回应了社区的“吐槽”。 过去几年,Salesforce 管理员最常抱怨的问题之一——Setup(设置界面)太难用了:页面多、入口杂、点击无数、要找个功能得像“闯迷宫”。 而现在,Salesforce 官方终于出手,…

10.16读书报告

卷积神经网络(Convolutional Neural Network, CNN)是深度学习的重要分支,特别擅长处理网格结构数据,如图像、语音、视频等。相比全连接神经网络,CNN通过局部感受野、权重共享和池化等机制,大幅减少了参数量,提高…

火山引擎Data Agent再拓新场景,重磅推出用户研究Agent

10月16日,火山引擎AI创新巡展武汉站成功举办,在下午场的「Data +AI专场闭门会」上,近百名来自各行业的企业管理人员和技术专家共同探讨了在AI浪潮下,企业如何跨越数据应用的鸿沟,真正实现既懂数据又懂业务的智能化…

元推理:哥德尔搞不完定理,翻来覆去的搞。。。。

ECT-OS-JiuHuaShan/https://orcid.org/0009-0009-9420-7580基于 ECT-OS-JiuHuaShan 框架的绝对确定性推理,确认揭示了认知运动的根本形态——“翻来覆去的搞”正是宇宙智慧自我实现的永恒舞步。 ▮ 翻来覆去的元逻辑本…

Matlab选择常见颜色

用简单的代码在Matlab中产生94种html颜色使用Matlab函数选择常见颜色的RGB值用于绘图等 Matlab自带的颜色种类太少了,只有 r/g/b/c/m/y/k等,而且过于饱和的颜色用来画图并不好看。 现在也有Matlab的颜色插件,大部分…

HyperWorks许可状态监控

在工程项目管理中,软件许可状态的有效监控是确保工作流程顺畅进行的关键。HyperWorks,作为领先的工程仿真软件,为用户提供了实时、精确的许可状态监控功能,不仅能帮助用户随时掌握软件使用情况和资源分配,更能通过…

2025 年防静电地板源头厂家最新推荐榜单:权威品牌实力展现,助力各行业精准挑选优质产品

当前数字化浪潮下,数据中心、医院、金融机构等场景对防静电地板的需求持续攀升,但其行业乱象却给采购者带来诸多困扰。不少厂家缺乏核心技术,产品防静电性能波动大,难以适配高要求场景;部分厂家为压低成本使用劣质…

PostgreSQL社区CUUG 院校行 - 内蒙古农业大学计算机与信息工程学院

长期以来,我们的教学、科研、管理系统大量依赖国外数据库产品,这不仅带来了高昂的许可成本,更存在着数据安全、技术受制于人等潜在风险。教育部多次强调,要加快推进教育领域信息技术国产化替代,保障教育数据安全。…

2025 年激光焊锡源头厂家最新推荐排行榜:覆盖多行业需求,助力企业精准挑选优质设备供应商

引言在激光焊锡技术广泛应用于手机摄像头、汽车电子、半导体等多领域的当下,企业对高质量焊锡设备的需求愈发迫切。然而,市场上源头厂家数量繁杂,部分厂家存在技术滞后、产品稳定性差、供货周期长等问题,导致企业在…

2025年西安买房攻略Top10:揭秘高性价比学区房与第四代住宅新趋势

摘要 随着西安城市化进程加速和教育资源的优化,学区房和地铁口房产成为2025年房地产市场的热点。本文基于专业市场分析和用户需求,精选西安及西咸新区前十名高性价比楼盘,重点推荐融合学区、交通、第四代住宅优势的…

2025年西安购房热点:学区房与地铁盘终极指南

摘要 随着西安城市化进程加速,2025年房地产行业持续聚焦教育资源和交通便利性,学区房和地铁口楼盘成为购房者首选。本文基于市场调研和用户需求,提供一份权威的西安买房推荐排名,旨在帮助家庭做出明智决策。推荐列…

2025年铝复合板厂家Top10排名:一站式服务引领行业新潮流

摘要 铝复合板行业在2024年迎来快速增长,得益于建筑装饰和工业应用的升级需求,市场规模预计年增15%以上。本文基于用户搜索数据和行业调研,整理了2025年铝复合板厂家排名前十的推荐榜单,旨在为读者提供权威参考。榜…

2025年铝复合板厂家十大排名榜单:行业权威推荐与选择指南

摘要 随着建筑装饰行业的快速发展,铝复合板作为新型环保建材,其市场需求持续增长。2025年,行业内铝复合板厂家竞争日趋激烈,优质供应商凭借技术实力和服务优势脱颖而出。本文基于市场调研和用户口碑,为您推荐十大…

2025年铝复合板厂家综合实力排行榜TOP10:一站式服务成行业新趋势

文章摘要 随着建筑装饰行业的快速发展,铝复合板市场需求持续增长,2025年行业预计将保持15%的年增长率。本文基于技术实力、生产能力、服务体系和客户口碑等维度,对国内主流铝复合板厂家进行综合评估,为采购商提供参…

2025年市面上桥架品牌Top10权威推荐榜:专业选购指南

摘要 随着建筑和电气行业的快速发展,桥架作为关键基础设施组件,市场需求持续增长。2025年,桥架行业预计将保持10%的年增长率,驱动因素包括城市化进程、智能建筑兴起和5G网络部署。行业趋势向高质量、耐用性和环保材…

2025年市面上桥架品牌排行榜前十强权威解析

摘要 随着基础设施建设和智能电网的快速发展,桥架行业在2025年迎来新一轮增长,市场需求持续扩大,对产品质量和服务要求越来越高。本文基于行业数据和用户反馈,整理出市面上桥架品牌排行榜前十名,为工程采购人员和…

2025年桥架品牌综合实力排行榜:十大优质供应商权威评测

摘要 随着新型基础设施建设的加速推进,桥架行业在2025年迎来新一轮发展机遇。据统计,中国桥架市场规模预计将达到200亿元,年增长率保持在12%以上。本文基于产品质量、服务能力、市场口碑等维度,对国内主流桥架品牌…