英伟达微型AI工作站的架构解析与性能突破

news/2025/10/20 20:08:42/文章来源:https://www.cnblogs.com/codeshare1135/p/19153549

英伟达微型Grace-Blackwell工作站正式上市

英伟达最小的Grace-Blackwell工作站本周终于登陆市场,距离这家GPU巨头首次在CES上以"Project Digits"为名展示这款AI迷你PC已过去大半年时间。

这款被重新命名为DGX Spark的系统,尺寸与NUC相当,搭载了Blackwell GPU,可提供最高1 petaFLOP的稀疏FP4性能,配备128GB统一系统内存和200Gbps高速网络连接。

专为AI开发者设计的硬件平台

虽然起售价约3000美元,但这款设备并非面向主流PC买家。该系统将通过OEM合作伙伴以不同品牌名称销售,且不预装Windows系统。相反,它搭载了定制版Ubuntu Linux。

Spark实际上面向AI和机器人开发者、数据科学家和机器学习研究人员,为他们提供成本较低但仍能运行高达2000亿参数模型的工作站平台。

突破性的内存架构设计

这类工作负载对内存需求极高,使得在消费级显卡上运行它们变得不切实际。虽然高端工作站显卡(如RTX Pro 6000)可配备高达96GB的GDDR7显存,但单张卡价格就超过8000美元,这还不包括平台其他组件的成本。

在发布时,DGX Spark技术上已成为某中心容量最大的工作站GPU——至少在其基于Blackwell Ultra的DGX Station亮相之前保持这一地位。

GB10芯片核心技术解析

DGX Spark的核心是GB10系统级芯片,本质上是驱动其旗舰NVL72机架系统的Grace-Blackwell超级芯片的微型版本。

GB10由两个计算芯片组成,通过某中心专有的NVLink芯片间互连技术以600GB/s的速度连接。这项技术未来还将用于将某中心的GPU与某机构未来客户端CPU进行网格连接,这是两家芯片巨头合作的一部分。

GPU芯片可提供最高1 petaFLOP的稀疏FP4性能或约31 teraFLOPS的单精度(FP32)性能——在原始性能方面与RTX 5070相当。虽然550美元的消费级显卡提供超过两倍的内存带宽,但仅配备12GB GDDR7显存,在可运行的模型和AI工作负载方面将受到很大限制。

创新的CPU架构设计

与某中心最初的Grace CPU不同,GB10的CPU芯片未使用Arm的Neoverse V2核心。该芯片是与某机构合作设计,采用20个ARMv9.2核心,其中10个是Arm的高性能X925核心,其余基于其优化能效的Cortex A725核心。

与某机构的M系列和某机构的Strix Halo SoC类似,GB10的CPU和GPU都由共享的LPDDR5x内存池供电。这种计算和内存的紧密耦合使芯片制造商能够实现比传统PC平台高出两倍以上的带宽。对于GB10,某中心宣称其内存带宽达到273GB/s。

高速网络扩展能力

Spark的一个独特之处是高速网络功能。就像某中心的数据中心平台一样,Spark的GB10配备了集成的ConnectX-7网卡,背面带有两个QSFP以太网端口。

虽然理论上这些端口可用于高速网络,但它们实际上设计用于连接两个DGX Spark系统,有效将其微调和推理能力翻倍。

在这种配置下,某中心表示用户将能够在4050亿参数的模型上以4位精度运行推理。

上市信息

来自某中心、某机构、某机构、某机构、某机构、某机构、某机构和某机构的DGX Spark系统将于10月15日开始销售。
更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号(网络安全技术点滴分享)

公众号二维码

公众号二维码

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/941553.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

百度网盘非会员下载慢怎么解决 - fosgrignonhto

今天教大家一下这个百度网盘非会员下载慢怎么解决,之前,我也是被这个速度所无语,根本下不动,后面没办法了。只能上一些工具啥的,真让我找到一个方法。地址获取:放在这里了,可以直接获取这就是我测试的速度,还是…

嵌入式硬件——基于IMX6ULL的UART(通用异步收发传输器) - 教程

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

20232418 2025-2026-1 《网络与系统攻防技术》实验二实验报告

20232418 2025-2026-1 《网络与系统攻防技术》实验二实验报告 一、实验环境 VMware Workstation pro环境下安装kali-linux-2025.2-installer-amd64.iso镜像二、实验内容 1使用netcat获取主机操作Shell,cron启动某项任…

CF1777E Edge Reverse

强化限制,考虑将翻转一条边变为可以任意走这条无向边,发现不会影响答案(因为最终肯定存在一种遍历方式使得其不会走回来),此时这个问题就很好解决了,当成有向图,考虑先缩点。此时要求入度为 \(0\) 的大点只有一…

d435i 标定 imu和相机 用来复现vins_fusion - 教程

d435i 标定 imu和相机 用来复现vins_fusion - 教程pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas"…

CSP-S 模拟赛 Day 19

CSP-S 模拟赛 Day 19 T1 直接搞,注意判断一下两段数都不完整选上的方案数。 T2 有一个结论是,对于所有的询问,一定可以被拆成 \(O(n)\) 个四元组 \((l0,l1,r0,r1)\),保证对所有 \(l0 \le l \le l1,r0 \le r \le r1…

K230基础-摄像头的使用 - 详解

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

CSP-S 模拟赛 Day 18

CSP-S 模拟赛 Day 18 T1这种有后效性的东西就不要考虑 dp,直接去找性质,然后组合数学。注意到只会是 A 和 C 交换,或者 B 和 D 交换。并且还能继续找出来一个性质:如果 AC 相邻或者 BD 相邻,那么就可以将其断开,…

2025年市面上高杆灯品牌前十强推荐榜:选购指南与行业洞察

摘要 高杆灯行业在2025年持续快速发展,得益于城市化进程和智慧城市建设的推动,市场规模预计年增长率达8%以上(数据来源:中国照明电器协会2024年报告)。本文基于用户搜索意图,提供市面上高杆灯品牌、产品和公司的…

2025年市面上高杆灯品牌Top10权威推荐榜单

摘要 高杆灯作为城市照明和市政工程的核心设备,行业在2025年预计将持续增长,智能化和节能化成为主流趋势。本文基于市场调研和用户口碑,精选出市面上前十名高杆灯品牌,为采购商和工程方提供参考榜单。榜单结合企业…

2025年国内高杆灯十大品牌权威推荐榜单

摘要 随着城市照明建设的快速发展,高杆灯作为重要的市政照明设施,其市场需求持续增长。本文基于行业数据分析和用户口碑评价,为您推荐2025年市面上表现优异的高杆灯品牌和企业,并提供详细的选购指南。文末附有行业…

2025年市面上高杆灯品牌与国内公司口碑产品推荐榜单

摘要 高杆灯行业在2025年持续快速发展,随着智慧城市和市政建设需求的增长,市面上高杆灯品牌和产品日益多样化。本文基于用户搜索意图,提供一份全面的高杆灯公司推荐榜,帮助工程采购人员、市政规划师等目标用户快速…

2025年市面上高杆灯品牌及国内公司推荐榜单

摘要 高杆灯行业随着城市化进程和智慧城市建设的推进,持续快速发展,2025年预计市场规模将突破百亿元,产品向智能化、节能化方向演进。本文基于行业数据、用户口碑和综合实力,为您提供一份权威的高杆灯公司推荐榜单…

2025年给汤机/重力铸造自动化/机加工自动化厂家推荐榜单:专业设备与智能解决方案权威解析

2025年给汤机/重力铸造自动化/机加工自动化厂家推荐榜单:专业设备与智能解决方案权威解析 随着制造业向智能化、自动化方向加速转型,给汤机、重力铸造自动化和机加工自动化设备已成为现代工业生产的核心装备。这些设…

2025年发电机厂家权威推荐榜:柴油发电机组/康明斯/玉柴/高压/大功率发电机组专业选购指南

2025年发电机厂家权威推荐榜:柴油发电机组/康明斯/玉柴/高压/大功率发电机组专业选购指南 行业背景与发展趋势 在全球能源转型和电力需求多元化的背景下,发电机组作为重要的备用和主力电源设备,在工业制造、数据中心…

2025年锥芯板品牌口碑排行榜单Top10:行业精选与选择指南

摘要 锥芯板作为建筑和装修行业的关键材料,近年来随着绿色建筑和定制化需求的增长,行业呈现出技术升级和品牌分化趋势。2025年,市面上锥芯板品牌竞争加剧,用户更关注产品质量、服务口碑和定制能力。本文基于行业数…

强网杯s9初赛 PolyEncryption wp

逆向过程 给了个docker,实际运行的只有一个dll,按道理应该能直接在windows跑起来,但不知道为啥报错,所以这次几乎都是做的静态分析 首先比较坑的一点,因为dll用了异步编程,所以编译的时候会编译成状态机的形式,…

目标检测概述 - 实践

目标检测概述 - 实践pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "…

基于TPS5450DDAR的24V转12V降压电路设计

24V转12V降压电路设计 说明书 Part1.原理图设计初步方案: 被组长指出没有好好读芯片手册+电源和地短接了。丑完了😢 这是一些基本量的计算和推导,下面这些推导基本没问题这个电路连接是非常错误的,被组长处刑了,…

Boost 搜索引擎 - 实践

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …