站长统计软件,沅江网站设计公司,做网站流量,德维尔全屋定制官方网站过去一年#xff0c;ChatGPT 和其他大语言模型#xff08;LLMs#xff09;的爆火也带动了向量数据库的发展。 许多用户在搭建检索增强生成#xff08;RAG#xff09;系统过程中选择了使用向量数据库 Zilliz Cloud #xff0c;但 Zilliz Cloud 的功能不止于此#xff0c;… 过去一年ChatGPT 和其他大语言模型LLMs的爆火也带动了向量数据库的发展。 许多用户在搭建检索增强生成RAG系统过程中选择了使用向量数据库 Zilliz Cloud 但 Zilliz Cloud 的功能不止于此它在搜索和检索系统中的应用也十分广泛。这也反映出了 Zilliz Cloud 产品的设计初衷——帮助计算机真正理解人类数据包括文本、图像、银行交易用户行为等。 近期Zilliz Cloud 发布了新版本并上线了 Range Search、多租户和 RBAC 等新特性。同时Zilliz Cloud 搜索和索引性能也提升了 10 倍获得了许多用户的积极反馈。本文将通过 3 个真实的用户案例展示 Zilliz Cloud 的新特性是如何为其赋能的。 01.智能问答机器人 对于智能问答机器人而言一个重要组成部分就是记忆——特指传入 LLM 中的上下文文本片段。通过记忆问答机器人就可以获取历史信息。但是 LLM 的上下文窗口有着严格限制 1长度限制 2上下文过长将明显降低文本生成速度 3大多数长上下文 LLM 只倾向于“记住”上下文窗口开始和结束的信息 向量数据库能够很好地解决上述问题。以客服机器人为例机器人会收到许多不同的信息包含原始知识库、用户的所有提示、用户上传的图像、音频片段、回复内容等这些都存储在 Zilliz Cloud 中以便进行快速检索。每当用户输入消息时都会优先检索来自知识库和之前对话的所有相关内容。这样一来系统的读写负载会加重每秒需要存储大量消息数据。此外提供给客服机器人的的数据本质上是多模态的因此仅有文本搜索是远远不够的。 Zilliz Cloud 的分布式数据库架构能够很好地解决上述问题增加查询节点数量以提高读取吞吐量增加数据节点数量以提高写入吞吐量。此外新发布的 Cardinal 搜索引擎中进行了多方面的性能优化包含 Zilliz 自研的向量索引、机器代码级别的计算优化以及优化缓存感知算法等。 总而言之在问答机器人的用例中用 Zilliz Cloud 后可以实现与其他向量数据库相同的搜索和索引吞吐量但价格却不到其他解决方案的三分之一。因此在考虑成本但同时保障性能的用例中Zilliz Cloud 绝对是一个不错的选择。 02.商品推荐 推荐系统(https://zilliz.com.cn/use-cases/recommender-system)会根据消费者之前的观看或浏览历史推送各种内容例如产品、新闻、用户内容等向量数据库非常适合用来搭建这类应用。开发者可以将内容转化为向量并将数据存储在 Zilliz Cloud随后通过调用collection.search便可轻松进行向量相似性搜索获取相关内容完成推荐。 搜索速度和相关性是所有 B2C 产品的基石。在电商领域产品推荐结果对整体用户体验尤为关键很大程度上可以决定收益。Zilliz 在实际应用中发现有用户的诉求就是通过借助 AI 的力量提升产品推荐系统性能。这些用户和用例对延时和吞吐量有着极高要求——向量数据库需要在 10 毫秒内完成查询。此外推荐系统还需对搜索结果进行过滤例如根据服装的特定尺寸或特定鞋码筛选搜索结果。从本质上来说商品数据是复杂的多模态数据包含了产品名称、产品描述、产品图片等数据。 Cardinal 能够满足用户对性能的要求再配合动态 Schema 功能和支持 JSON 的特性加持Zilliz Cloud 便成为此类用户的不二之选。有了 Zilliz Cloud用户便能够根据每个产品类别的特定特征定制自己的数据模型从而确保有效存储和查询每个商品向量数据多样且复杂的元数据。 03.AI 制药 制药过程极其复杂困难不同的药物分子大小不同有些药物可能具有几十个原子的“小分子”有些则是具有数万个原子的大型生物制剂。机器学习可以根据药物功效如治疗特定疾病或缓解特定症状将每个分子转化为向量。 在此用例中Zilliz Cloud 的 Rang Search 功能就能发挥关键作用。研究人员可以将需要治疗的疾病或症状转化为向量并在 Zilliz Cloud 中搜索相关药物。相比基础的 top-k 搜索Rang Search 能够在一定距离内找到与目标相似的所有向量分子提供所有在此范围内的相关搜索结果而不仅仅是固定数量的结果。此功能不仅对 AI 制药至关重要也适用于欺诈保护、网络安全等领域。例如在银行系统中我们可以将交易转化为向量并通过范围搜索与新交易进行比较以识别类似的历史活动有助于进行异常检测。 本文中我们通过 3 个业界典型用例介绍了 Zilliz Cloud 的部分新特性欢迎大家上手尝试 (https://cloud.zilliz.com.cn/signup) ! 本文由 mdnice 多平台发布