在某中心Ignite 2025大会上，某中心SQL Server 2025的发布标志着企业级AI就绪数据库愿景的实现，为开发者提供了内置向量搜索和用于调用外部AI模型的SQL原生API等强大新工具。某机构已与某中心合作，将SQL Server 2025与某机构Nemotron RAG开源模型系列无缝连接。这使得能够在云端或本地的数据上构建高性能、安全的AI应用。

检索增强生成（RAG）是企业利用其数据最有效的方法。RAG将AI建立在实时专有数据之上，无需承担从头开始重新训练模型的巨大成本和复杂性。然而，RAG的有效性取决于计算密集的步骤，其中之一是向量嵌入生成。这在传统的CPU基础设施上造成了巨大的性能瓶颈。

规模部署的复杂性和模型灵活性的需求使这一挑战更加严峻。企业需要一系列嵌入模型来平衡不同任务的准确性、速度和成本。

本文详细介绍了解决此问题的新某机构参考架构。该架构基于SQL Server 2025和属于Nemotron RAG系列的Llama Nemotron Embed 1B v2构建。解释了这种集成如何允许直接从SQL Server数据库调用Nemotron RAG模型，将其转变为高性能的AI应用引擎。该实现基于某中心云和某中心本地部署，涵盖云上或本地的主要SQL Server使用场景。

利用Nemotron RAG和SQL Server 2025解决企业AI RAG挑战

将SQL Server 2025连接到灵活、加速的某机构AI引擎（通过Nemotron RAG），解决了企业AI RAG的核心挑战：性能、部署以及灵活性和安全性。

改善RAG性能瓶颈

该架构通过使用Llama Nemotron Embed 1B v2将嵌入生成从CPU卸载到某机构GPU，解决了主要的RAG性能瓶颈。这是一个用于创建高度准确嵌入的最先进开源模型，专为检索任务优化。它提供支持长上下文的多语言和跨语言文本问答检索，并优化数据存储。

Llama Nemotron Embed 1B v2是Nemotron RAG的一部分，Nemotron RAG是一个提取、嵌入、重排序模型集合，使用Nemotron RAG数据集和脚本进行微调，以实现最佳准确性。

在数据库方面，SQL Server 2025通过由原生向量距离函数驱动的向量搜索，提供无缝、高性能的数据检索。在本地托管嵌入模型时，可以消除网络开销并降低延迟，这是两个能带来性能改进的关键因素。

将AI模型部署为简单的容器化端点

部署环节是某机构NIM微服务发挥作用的地方。NIM微服务是预构建的、生产就绪的容器，旨在简化最新优化AI模型（如某机构Nemotron RAG）在任何某机构加速基础设施（无论是云端还是本地）上的部署。使用NIM，可以将AI模型部署为简单的容器化端点，无需管理复杂的库或依赖项。

此外，数据驻留和合规性问题通过由NIM微服务支持的本地托管模型得到解决。易用性是另一个关键优势。NIM的预构建特性与原生SQL REST API相结合，显著降低了学习曲线，使得将AI更贴近客户已有数据变得更加容易。

保持安全性和灵活性

该架构提供了一系列最先进的Nemotron RAG模型，同时将专有数据安全地保留在SQL Server数据库中。NIM微服务专为企业级安全性设计，并得到某机构企业支持的支持。NIM微服务与SQL Server之间的所有通信都使用端到端HTTPS加密进一步保护。

Nemotron RAG与某中心SQL Server 2025参考架构

Nemotron RAG和SQL Server 2025参考架构详细介绍了使用Llama Nemotron Embed 1B v2嵌入模型（作为NIM微服务交付）实现该解决方案的方法。这使得能够直接从某中心云或某中心本地的SQL Server上运行企业级、安全、GPU加速的RAG工作流。

有关此解决方案的完整代码、部署脚本和详细演练，请参阅某机构GitHub上的“某机构NIM with SQL Server 2025 AI on Azure Cloud and Azure Local”。

核心架构组件

图1显示了三个核心架构组件和流程基础，下文也对此进行了详细描述。

图1. 该架构由三个协同工作的核心组件组成

SQL Server 2025：AI就绪的数据库

该解决方案的基础是SQL Server 2025，它引入了两项变革性功能，充当数据库内AI的引擎：

1. 原生向量数据类型：此功能能够安全地将向量嵌入与结构化数据直接存储在一起。它消除了对独立向量数据库的需求，简化了架构，减少了数据移动，并支持混合搜索，例如查找既是“跑鞋”（向量搜索）又“有库存”（结构化筛选）的产品。
2. 向量距离搜索：现在可以使用内置函数直接在SQL Server 2025内执行相似性搜索。这使得能够根据嵌入空间中的接近程度对结果进行排序，从而实现语义搜索、推荐系统和个性化等用例——所有这些都无需离开数据库。
3. 创建外部模型：在SQL Server 2025中将外部AI模型（例如NIM微服务）注册和管理为一类实体。这提供了一种无缝编排推理工作流的方式，同时保持治理和安全性的集中。
4. 生成嵌入：使用AI_GENERATE_EMBEDDINGS函数直接从T-SQL为文本或其他数据创建嵌入。该函数在底层利用调用外部REST API，无需复杂的集成步骤即可实现实时嵌入生成。

某机构NIM微服务：加速的AI引擎

Nemotron RAG系列开源模型，包括本参考架构中使用的Llama Nemotron Embed 1B v2模型，均作为生产就绪的某机构NIM微服务交付，运行在标准Docker容器中。

这种方法简化了部署，并确保在带有某机构GPU的云和本地Windows或Linux环境中的兼容性。这些模型可以部署在某中心容器应用或使用某中心本地的本地环境中。这种容器化交付支持自动和手动扩展策略，并为与SQL Server 2025一起使用提供了理想的“从地到云”灵活性。

• 云规模：可以将NIM微服务部署到带有无服务器某机构GPU的某中心容器应用。这种方法抽象了所有基础设施管理。可以获得按需、GPU加速的推理，能够扩展到零并按秒计费，从而优化成本并简化操作。
• 本地部署：为了获得最大的数据主权和低延迟，可以在本地使用某中心本地和某机构GPU运行相同的NIM容器。某中心本地将某中心的管理平面扩展到自有硬件，使能够直接针对本地数据运行AI，同时满足严格的合规性或性能需求。

SQL Server与NIM微服务之间的链接

SQL Server与NIM微服务之间的通信桥梁简单而稳健，建立在标准、安全的网络协议之上。

• 兼容OpenAI的API：某机构NIM公开一个兼容OpenAI的API端点。这使得SQL Server 2025能够使用其原生函数调用NIM服务，就像调用OpenAI服务一样，确保了无缝、开箱即用的集成。
• 标准POST请求：SQL Server 2025发出标准的HTTPS POST请求来获取结果（如嵌入）。
• 安全灵活的通信：该设计使用TLS证书进行端到端加密，建立相互信任，并确保所有响应对于云端和本地部署都是安全、高性能且符合标准的。与仅远程模型相比，这提供了显著优势，因为保留了完全控制权，专有数据永远不会离开安全环境。

虽然此参考架构展示了最先进的Nemotron RAG模型，但它可以扩展，使SQL Server 2025能够调用任何NIM微服务，为广泛的AI应用提供支持——例如文本摘要、内容分类或预测分析——所有这些都在SQL Server 2025中的数据上直接执行。

两种部署方法

本文涵盖此解决方案的两种主要部署模式：本地部署（使用某中心本地）和云端部署（使用某中心容器应用）。两种模式都依赖于相同的核心机制：SQL Server 2025使用标准的兼容OpenAI的协议调用某机构NIM微服务端点。

使用某中心本地进行本地部署

本地部署确保了最大的灵活性，支持在NVIDIA GPU服务器上运行的Windows和Linux系统的实际组合，例如：

• 同时运行SQL Server和某机构NIM的Windows/Ubuntu Server或Windows/Ubuntu本地虚拟机
• 运行SQL Server的Windows和运行某机构NIM的Ubuntu，反之亦然

要进行部署，可以利用某中心本地，这是某中心的新产品，将某中心云平台直接扩展到本地环境。有关建立安全通信（包括NIM部署详细信息）的完整安装说明，请访问某机构GitHub上的“NVIDIA/GenerativeAIExamples”仓库。请注意，此解决方案使用SQL Server 2025（RC 17.0.950.3）进行了验证。

云端部署

云端部署利用托管在某中心容器应用（ACA，某中心Azure完全托管的无服务器容器平台）上的某机构Llama Nemotron嵌入NIM。ACA完全支持并扩展了所提议架构的优势。要了解更多信息，请参阅某机构GitHub仓库“NVIDIA/GenerativeAIExamples”上的“NVIDIA NIM with Microsoft SQL Server 2025 AI on Azure Cloud and Azure Local”。

这种无服务器方法为在SQL Server 2025中存储数据的AI应用部署提供了几个关键优势。

为了加速NIM副本启动，建议使用由某中心文件共享或临时存储支持的ACA卷来持久化本地NIM缓存。副本数量通过ACA HTTP自动扩展进行管理，允许扩展到零。

ACA应用可以并行托管多个版本和类型的NIM，每个版本和类型都可通过在SQL Server中配置的不同URL进行访问。

解决方案演示

要获取运行完整端到端工作流的完整说明，请查看演示“SQL Server 2025 AI functionality with NVIDIA Retrieval QA using E5 Embedding v5”。

具体来说，演示SQL脚本将指导完成以下步骤：

1. 创建AdventureWorks示例数据库
2. 创建ProductDescriptionEmbeddings演示表
3. 执行演示脚本，通过某机构NIM集成填充嵌入
4. 使用Select_Embeddings.sql验证和可视化存储的嵌入

此工作流演示了新的SQL Server 2025 AI功能，使用了内置的T-SQL AI功能VECTOR_DISTANCE、AI_GENERATE_EMBEDDINGS和CREATE EXTERNAL MODEL，这些构成了SQL Server 2025中新AI集成的基础。

开始使用SQL Server 2025和某机构Nemotron RAG

某中心SQL Server 2025与某机构Nemotron RAG（作为生产级某机构NIM微服务交付）的集成，为构建高性能AI应用提供了一条无缝的“从地到云”路径。通过将SQL Server 2025内置的AI功能与某机构GPU优化的推理堆栈相结合，现在可以解决主要的RAG性能瓶颈，将AI直接带到其数据中——安全、高效，且无需管理数据管道的操作复杂性。

这种联合参考架构展示了如何构建能够直接在SQL Server 2025内生成嵌入、执行语义搜索和调用推理服务的RAG应用。这种方法提供了部署最先进模型（如某机构Nemotron）的灵活性，无论数据位于何处——在某中心云上还是在带有某中心本地的本地——同时保持完全的数据主权。

准备好开始构建了吗？通过某机构GitHub上的“NVIDIA NIM with Microsoft SQL Server 2025 AI on Azure Cloud and Azure Local”仓库，获取适用于云端和本地场景的所有部署脚本、代码示例和详细演练。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）