EMQX Enterprise 5.2 发布:Flow 设计器,Amazon Kinesis,Azure Event Hubs

EMQX Enterprise 5.2.0 版本现已正式发布!

新版本带来了一系列重磅更新,最令人瞩目的是可拖拽的可视化 Flow 设计器,它可以帮助企业快速创建、测试和部署数据集成。同时,我们新增了对 Amazon Kinesis 和 Azure Event Hubs 的支持,实现了海量物联网设备数据与云服务的无缝连接。此外,新版本还进行了多项改进以及 BUG 修复,进一步提升了整体性能和稳定性。

Flow 设计器,拖拽和可视化界面快速创建、测试和部署数据集成

Flow 设计器是一个可视化界面,它在早些发布的数据集成可视化查看工具 Flows 基础上,增加了创建和编辑的能力。

它允许用户使用更简单的方式,通过拖拽的方式自由编排规则和数据桥接,在几分钟内即可实现消息与事件的实时处理,并与外部 40 余种数据系统的集成。创建完成后,用户可以通过统一的视图清晰地管理数据集成流程,并监控每个处理节点的状态。

Flow 设计器底层仍使用规则 SQL 与数据桥接,继承了 EMQX 强大的数据处理能力和优异性能。同时,它还允许用户在 UI 和 SQL 编辑器之间自由切换,既保留了习惯的 SQL 编辑方式,也提供了更简单快速的上手能力。相比之前的版本,现在用户无需熟悉 EMQX 规则 SQL 语法,就可以通过简单的 UI 进行业务开发,这有助于用户更轻松地应用 EMQX 的数据处理能力实现业务创新。

在这里插入图片描述

独立的 Webhook 页面,简化配置流程

Webhook 是 EMQX 最常用的数据集成方式之一。为进一步降低使用门槛,EMQX 最新版本新增了独立的 Webhook 配置页面,可大幅简化将数据发送到外部 HTTP 服务器的配置流程。

过去,实现这一功能需要编写规则 SQL 并配置数据桥接,这要求用户对 SQL 语法比较熟悉,特别是在处理客户端事件时,需要了解事件在 SQL 语句中的映射关系(如下列 SQL 所示),增加了学习难度。

SELECT * FROM "$events/client_connected"

全新的 Webhook 配置页支持纯表单操作,用户可通过简单的点选方式选择需要发送的消息或事件。这样极大地降低了使用门槛,用户无需理解 EMQX 的内部规则语言就可以快速建立事件或消息到外部 Web 服务的连接。

在这里插入图片描述

简化数据桥接配置参数,专注业务流程

EMQX 的数据桥接提供了丰富和全面的参数配置,以便满足企业级消息消息中间件对性能、稳定性以及不同业务场景下灵活配置的需求。通过调整对应功能的参数,可以实现时延与写入速度之间的平衡,或者增加更多的连接实现更高吞吐(相应的对外部数据服务的压力会更大)。

但是我们也注意到,对于大多数场景来说,一些参数并不需要进行调整,使用 EMQX 提供的默认值即可。因此在此次版本中,我们将高级设置的方式折叠了这些参数配置。用户只需专注在业务流程和逻辑设置上,当遇到特定的性能瓶颈或场景需求时,可以打开高级设置进行参数微调。

下图是简化后的 Timescale 数据桥接创建页面,用户仅需关注连接与数据写入流程配置:

此举在降低学习曲线的同时,仍然保留了 EMQX 对复杂场景的适应能力,让 EMQX 的数据桥接功能对用户更加友好。

在这里插入图片描述

Amazon Kinesis 集成

Kinesis 是 AWS 上完全托管的实时流数据处理服务,可以轻松地进行流数据的收集、处理和分析。它可以经济高效地处理任意规模的实时流数据,并具有高度的灵活性,能够低时延的处理来自数十万个来源的任意数量的流数据。

EMQX 与 Amazon Kinesis 结合使用,能够实现海量 IoT 设备连接,进行实时消息进行采集、传输,并通过 EMQX 数据集成连接到 Amazon Kinesis Data Streams,进行实时分析与复杂的流处理。

利用 Kinesis 构建的流数据管道,可以大幅降低 EMQX 与 AWS 平台之间的接入难度,为用户提供更丰富、灵活的数据处理方案。够助力 EMQX 用户在 AWS 上构建功能完备、性能卓越的数据驱动型应用。

在这里插入图片描述

Azure Event Hubs 集成

Event Hubs 是由 Azure 提供的是一种简单、可信且可扩缩的完全托管型实时数据引入服务。每秒能够处理数百万个流式事件,从而构建动态数据管道并迅速应对业务挑战。Event Hubs 支持根据使用需求动态调整吞吐量按需付费,并提供了强大的安全和隐私保护。

Event Hubs 可作为 EMQX 与 Azure 丰富的云服务应用之间的数据通道,将物联网数据集成到 Azure Blob Storage、Azure Stream Analytics 以及部署在 Azure 虚拟机上的各类应用和服务当中。

借助 Event Hubs 构建的低延迟传输通道,可以简化 EMQX 与 Azure 平台之间的接入,帮助用户快速实现海量物联网设备数据与 Azure 的连接。让用户更便捷的获得云计算带来的数据分析和智能化能力,构建功能强大的数据驱动型应用。

在这里插入图片描述

HStream 集成

HStream 是 EMQ 专为物联网数据存储和实时处理而推出的开源、云原生分布式流数据平台。

它通过专门设计的分布式容错日志存储集群,能够可靠地存储数百万个设备数据流,并提供一级订阅支持,可以实时推送最新数据流到您的应用。并在需要时随时回放和消费数据流。

HStream 独特的融合架构设计,结合 EMQX 海量设备和多协议接入能力,允许用户能够在一个平台上高效完成对所有实时消息、事件以及其他数据流的摄取、存储、处理和分发,为物联网数据流的运维管理和实时应用开发提供了便捷性。

GreptimeDB 集成

GreptimeDB 是一个开源、分布式、云原生时序数据库,融合时序数据处理和分析能力。GreptimeDB 专为云而生,充分利用云的优势,如弹性、可扩展性和高可用性。

GreptimeDB 与 EMQX 集成使用,能够实现海量物联网数据的长期存储与实现查询,以及随业务发展的灵活扩展。无限的历史数据存储,针对时序数据优化的 SQL,两者能够满足对长时间范围内海量数据集的探索与挖掘。用户可以随时查询任意时间段的历史数据,并通过 SQL 即时洞察时序趋势,从繁杂数据中提取核心业务价值,并实现数据驱动的智能决策。

规则引擎支持 Sparkplug B 消息编解码

Sparkplug 是工业物联网领域热门的一个开源规范,它基于 MQTT 提供的一套明确定义的 Payload 和状态管理体系,实现了互操作性和一致性。

Sparkplug B 简化了 MQTT 命名空间,用于监控、控制、和数据采集系统(SCADA)、实时控制系统以及设备。它采用 Protobuf 编码数据,以实现轻便、高效和灵活的数据交换。 EMQX 的最新版本在规则引擎 SQL 中添加了 Sparkplug B 消息编解码函数,使得在 EMQX 中,用户可以直接使用 sparkplug_encodesparkplug_decode 函数,从而更加便捷地进行 Sparkplug B 消息到 JSON 格式的编码和解码。

解码后的 JSON 数据可以通过规则引擎其他函数进行复杂处理,并集成到外部数据桥接中,以实现丰富的业务集成。这有助于简化工业物联网中不同设备的互操作性,提高开发效率,构建灵活可扩展的物联网应用。

OpenTelemetry 指标集成

OpenTelemetry 是 CNCF 下的一个开源可观测性框架,旨在于使用标准化的数据格式,将程序中的 traces、metrics 和 logs 等可观察性数据发送到后端组件。

本次发布中 EMQX 添加了对 metrics 集成的支持,为 EMQX 提供开箱即用的监控能力。有助于更好地观察、分析和诊断 EMQX 集群运行状况。

未来版本中,EMQX 计划进一步支持 OpenTelemetry 的 traces 与 logs 集成,通过分布式链路追踪与日志关联,直观分析请求在 EMQX 中的处理情况,实现端到端的分布式诊断能力。这将进一步丰富 EMQX 的监控数据,帮助用户更全面和细致地监测系统运行状态,快速定位并解决异常。

性能提升

性能始终是 EMQX 关注的一部分,本次发布中我们进行了以下提升:

  • 更新 Mria 版本,通过合并索引更新提升了保留消息发布速度。

  • 规则引擎使用主题索引加速规则匹配,大幅提升了 EMQX 处理大量规则的性能。

  • 新增节点池和通道池配置,调优这些配置在高延迟的集群互联网路可显著提升 EMQX 性能。

更多新功能

除了前面介绍的主要功能外,各组件均有针对性功能升级,满足用户日常运维和使用需求:

  • 认证、授权以及数据桥接中的 Redis 连接支持设置用户名,以便连接到如 AWS MemoryDB 等需要用户名的 Redis 服务中。

  • Kafka 数据桥接新增消费者模式动态设置MQTT主题功能,可以实现更灵活的 Kafka-MQTT 主题映射,动态控制数据下发的 MQTT 目标主题。

  • GCP PubSub 数据桥接现在支持设置 PubSub 消息的属性和排序键,可以利用这些特征实现更丰富的消息路由和有序传输。

  • 为 RabbitMQ 数据桥接添加 TLS 连接支持。

  • 更新了 jq 依赖版本,修复了一些小的安全问题。

  • 客户端认证与授权支持使用 LDAP 作为数据源。

  • 发布了适用于 Amazon Linux 2023 与 Debian 12 的安装包。

  • 优化了 Prometheus 指标集成时消息、过载保护、授权、认证等功能的指标,使其更加清晰丰富。

BUG 修复

以下是主要 BUG 修复列表:

  • 修复了 EMQX 关闭过程中记录无关错误日志的问题。#11065

  • 修复了启用 debug/trace 时客户端无法发送包含大尺寸 payload 消息的问题。 #11279

  • 修复了在发送带有非零 ack_flag 的 CONNACK 数据包时 packets_connack_sent 指标未增加的问题。#11520

  • 添加了对 API 中时间戳的最大值的检查,以确保它是有效的 Unix 时间戳。#11424

更多功能变更和 BUG 修复请查看 EMQX Enterprise 5.2.0 更新日志。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/86188.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

React 如何导出excel

在现代的Web开发中,数据导出是一个非常常见的需求。而在React应用中,我们经常需要将数据导出为Excel文件,以便用户可以轻松地在本地计算机上查看和编辑。本文将介绍如何在React应用中实现导出Excel文件的功能。 章节一:安装依赖 …

VMware安装CentOS Stream 8以及JDK和Docker

一、下载镜像源 地址:https://developer.aliyun.com/mirror/?spma2c6h.25603864.0.0.285b32d48O2G8Y 二、安装配置 配置项 一共有以下这些,其中软件、软件选择 、安装目的地、网络主机名需要讲一下,其他都简单,自行设置即可。 …

电脑出现丢失msvcp71.dll的解决方法_常见msvcp71.dll解决方法

当电脑提示“找不到 msvcp71.dll”时,意味着您的系统缺少这个重要的动态链接库文件。msvcp71.dll 是 Visual Studio 2010 运行时所需的一个组件,因此如果您安装了 Visual Studio 2010 或更高版本,那么您很可能会遇到这个问题。以下是解决这个…

uni-app实现web-view图片长按下载

<template><view><web-view :webview-styles"webviewStyles" :src"webUrl"></web-view></view> </template> uniapp的web-view中图片无法长按保存&#xff0c;IOS下是正常的&#xff0c;但是Android下长按无反应 解…

Spring Cloud Alibaba Gateway 全链路跟踪TraceId日志

前言 凡是文中需要注册到nacos的都需要这个jar包 <dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId></dependency>凡是使用config jar包的都需要写bootstrap.prop…

React实战过程的知识了解

做项目用到react和antd&#xff0c;没办法循序渐进的学习&#xff0c;只能把一些点记录在这里&#xff0c;希望大家指正。 1.杂七杂八 正文 //actionRef&#xff0c;操作表单的预设方法&#xff0c;包括&#xff1a;刷新、重置所有项并刷新、重置到默认项、加载更多、清空选…

ipad触控笔有必要买原装吗?ipad2023手写笔推荐

目前&#xff0c;在无纸教学、无纸办公的大背景下&#xff0c;电容笔得到了广泛的关注。只是&#xff0c;对于这两支电容笔的不同之处&#xff0c;不少人并不是很清楚。其实这两种电容笔都很好区分&#xff0c;第一种是主动电容笔&#xff0c;也就是我们常用的电容式屏幕&#…

[JAVAee]Spring MVC

目录 Spring MVC框架 MVC Spring MVC的功能 用户与程序的连接 RequestMapping 指定为Get请求 指定为Post请求 获取参数 单个参数 表单传递多个参数 传递对象 后端参数重命名(后端参数映射) 设置参数必传/非必传 获取JSON对象 获取URL中的参数 上传文件 获取…

十六、MySql的MVCC机制CONNECT(收官!)

文章目录 一、数据库并发的场景有三种&#xff1a;二、读-写&#xff08;一&#xff09;3个记录隐藏列字段&#xff08;二&#xff09;undo 日志&#xff08;三&#xff09;模拟 MVCC&#xff08;四&#xff09;一些思考&#xff08;五&#xff09;Read View 一、数据库并发的场…

【深度学习】Pytorch 系列教程(十二):PyTorch数据结构:4、数据集(Dataset)

目录 一、前言 二、实验环境 三、PyTorch数据结构 0、分类 1、张量&#xff08;Tensor&#xff09; 2、张量操作&#xff08;Tensor Operations&#xff09; 3、变量&#xff08;Variable&#xff09; 4、数据集&#xff08;Dataset&#xff09; 随机洗牌 一、前言 Ch…

FPGA——WS2812B彩灯点亮

文章目录 前言一、WS2812B手册分析原理1.1 主要特点1.2 器件图1.3 接口1.4 输入码型1.5 归零码&#xff08;RZ&#xff09;和非归零码(NRZ)&#xff08;拓展&#xff09;1.6 级联输出1.7 输入数据格式 二、FPGA点亮彩灯2.1 代码 三、总结 前言 本篇博客是记录WS2812手册的学习…

web二级操作题

js和css的引入 在 HTML 中&#xff0c;你可以使用 <script> 和 <link> 标签来引入外部的 JavaScript 文件和 CSS 文件。 引入外部的 JavaScript 文件&#xff1a; <script src"path/to/script.js"></script>src 属性指定了 JavaScript 文…

关于PyInstaller打包exe程序的参数用法大全

PyInstaller可以将Python程序打包成一个exe程序来独立运行&#xff0c;用户使用时只需要执行这个exe文件即可&#xff0c;不需要在机器上再安装Python及其他包就可运行了。另外&#xff0c;PyInstaller相较于其他打包程序&#xff0c;比如py2exe&#xff0c;大多时候使用起来更…

分类预测 | MATLAB实现WOA-CNN-GRU-Attention数据分类预测

分类预测 | MATLAB实现WOA-CNN-GRU-Attention数据分类预测 目录 分类预测 | MATLAB实现WOA-CNN-GRU-Attention数据分类预测分类效果基本描述模型描述程序设计参考资料 分类效果 基本描述 1.MATLAB实现WOA-CNN-GRU-Attention数据分类预测&#xff0c;运行环境Matlab2021b及以上&…

创建表

MySQL从小白到总裁完整教程目录:https://blog.csdn.net/weixin_67859959/article/details/129334507?spm1001.2014.3001.5502 创建表 语法格式: create table 表名(列名1 数据类型,列名2 数据类型,... ,列名n, 数据类型 ); 练习:在czwbkl库中,创建一格test01表 跟大家说…

2、RocketMQ消息的分类

一、普通消息 1 消息发送分类 Producer对于消息的发送方式也有多种选择&#xff0c;不同的方式会产生不同的系统效果。 同步发送消息 同步发送消息是指&#xff0c;Producer发出⼀条消息后&#xff0c;会在收到MQ返回的ACK之后才发下⼀条消息。该方式的消息可靠性最高&#xff…

Python之列表

标题 列表什么是列表列表的创建列表的删除列表的访问 列表的常用方法append()、insert()、extend()pop()、remove()、clear()count()、index()list()、 filter()、 reduce()、lambda() 列表支持的运算加法运算符乘法运算符*成员测试运算符in 内置函数对列表的操作列表推导式列表…

在Idea中调试本地Docker

报错&#xff1a; Error running myApp: Unable to open debugger port (localhost:5005): java.net.SocketException "Connection reset" 原因&#xff1a; Docker配置里边没有配置环境变量JAVA_TOOL_OPTIONS. 解决&#xff1a; 在Docker下加入运行时的环境变量JAVA…

ffmpeg抠图

1.不用png&#xff0c;用AVFrame 2.合流 3.图片抠图透明 (1.)mp4扣yuv图&#xff0c;(2)用1.把一张yuv标记为透明然后av_hwframe_transfer_data到GPU (3)用抠图算法函数对yuv进行处理 (4) qsv的h264_qsv只支持nv12和qsv&#xff0c;但qsv本身并不限制像素格式&#xff0c;比如在…

Centos7原生hadoop环境,搭建Impala集群和负载均衡配置

Centos7原生hadoop环境&#xff0c;搭建Impala集群和负载均衡配置 impala介绍 Impala集群包含一个Catalog Server (Catalogd)、一个Statestore Server (Statestored) 和若干个Impala Daemon (Impalad)。Catalogd主要负责元数据的获取和DDL的执行&#xff0c;Statestored主要负…