5款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

我们收集了戴尔科技、联想、超微和技嘉的五款超酷人工智能和高性能计算服务器,这些服务器使用 AMD 的 Instinct MI300 芯片,该芯片于几个月前推出,旨在挑战 Nvidia 在人工智能计算领域的主导地位。

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

AMD 正在凭借其 Instinct MI300 加速器芯片向 Nvidia 在人工智能计算领域的主导地位发起迄今为止最大的挑战。推出几个月后,多款 MI300 服务器现已上市或即将发布,作为采用 Nvidia 流行芯片的系统的替代品。

在周二召开的第一季度财报电话会议上,AMD 董事长兼首席执行官苏姿丰 (Lisa Su) 表示,MI300 在“不到两个季度的总销售额”中就创造了超过 10 亿美元的成绩,成为其历史上“增长最快的产品”。

因此,AMD 目前预计 MI300 今年将产生 40 亿美元的收入,比该公司 1 月份的预测高出 5 亿美元。

“我们现在看到的是现有客户以及承诺使用 MI300 的新客户的可见性更高,”Su 说。

MI300系列目前由两款产品组成:MI300X GPU,配备192 GB HBM3高带宽内存;MI300A APU,在同一台处理器上结合了Zen 4 CPU核心和CDNA 3 GPU核心以及128 GB HBM3内存。死。

这些芯片已应用于戴尔科技、联想、超微和技嘉等主要 OEM 厂商现已推出或即将推出的系统中。

这家总部位于加利福尼亚州圣克拉拉的公司将 MI300X 定位为 Nvidia 流行且功能强大的 H100 数据中心 GPU 的强大竞争对手,用于人工智能训练和推理。例如,该公司表示,与 Nvidia 的 8 个 GPU H100 相比,其 MI300X 平台结合了 8 个 MI300X GPU,为 1760 亿个参数的 Bloom 模型提供了 60% 高的推理吞吐量,为 70B Llama 2 模型提供了 40% 低的聊天延迟GHX 平台。

而MI300A则更针对高性能计算和AI工作负载的融合。对于 64 位浮点计算,AMD 表示 MI300A 比 H100 快 80%。 AMD 表示,与 Nvidia 的 GH200 Grace Hopper Superchip(将 Grace GPU 与 H200 GPU 结合在一起)相比,MI300A 的 HPC 性能提高了两倍。

尽管 AMD 在 MI300 芯片上发现了所有优势,但该公司必须面对这样一个事实:Nvidia 正在加速芯片路线图,并计划在今年晚些时候发布 H100、H200 和 GH200 处理器的后继产品。

在最近的财报电话会议上,Su 表示 AMD 的战略不是关于一种产品,而是关于“多年、多代路线图”,并开玩笑说,它将在“未来几个月”分享有关“今年晚些时候到 2025 年”推出的新加速器芯片的详细信息。

“我们对继续保持竞争力的能力非常有信心。坦率地说,我认为我们将变得更具竞争力,”她说。

以下是来自戴尔、联想、Supermicro 和 Gigabyte 的五款超酷 AI 和 HPC 服务器,它们使用 AMD 的 Instinct MI300X GPU 或 Instinct MI300A APU。

完整原文传送门:5款采用AMD Instinct MI300芯片的超酷AI 和HPC服务器-国外VPS网站icon-default.png?t=N7T8https://www.vps911.com/gwvpstj/1740.html

1.戴尔 PowerEdge XE9680

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

戴尔的 PowerEdge XE9680 是一款风冷 6U 服务器,旨在为最复杂的生成式 AI、机器学习、深度学习和高性能计算工作负载提供支持。

该服务器使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,为系统提供 1.5 TB HBM3 高带宽内存和超过 21 petaflops 的 16 位浮点 (FP16) 性能。该系统通过 32 个 DIMM 插槽支持最大 4 TB DDR5 内存,并配备多达 10 个 PCIe Gen 5 扩展插槽。

PowerEdge XE9680 预计将于今年夏天上市,其主机处理器是两个第四代 Intel Xeon 可扩展 CPU,每个处理器最多可提供 56 个内核。

该服务器最多支持 8 个 2.5 英寸 NVMe/SAS/SATA SSD 驱动器,总计 122.88 TB;最多支持 16 个 E3.S NVMe 直连驱动器,总计 122.88 TB。

PowerEdge XE9680 配备了 Dell OpenManage 系统管理软件产品组合以及基于硅的信任根等安全功能。

2.联想ThinkSystem SR685a V3

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

联想最近推出的ThinkSystem SR685a V3是一款风冷8U服务器,旨在处理要求最苛刻的人工智能工作负载,例如大型语言模型。

该服务器现已上市,使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,为其提供 1.5 TB HBM3 高带宽内存容量和高达 1 TBps 的峰值聚合 I/O 带宽。它还通过 24 个 DIMM 插槽支持高达 3 TB 的 DDR5 内存,并配有多达 10 个用于连接扩展卡的 PCIe Gen 5 插槽。

ThinkSystem SR685a V3 还与 Nvidia 的 H100 和 H200 GPU 以及芯片设计商即将推出的 B100 GPU 兼容。

据OEM称,该服务器的主机处理器是两个第四代AMD EPYC CPU,可以升级到下一代服务器芯片。

最多支持16个2.5英寸热插拔NVMe SSD。它还配备了两个 M.2 启动驱动器。

联想表示,其空气冷却设计提供了“巨大的热空间”,使 GPU 和 CPU 能够提供持续的最高性能。

该服务器配备了 Lenovo 的 XClarity 系统管理软件。

3.超微 AS-8125GS-TNMR2

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

Supermicro 的 AS-8125GS-TNMR2 是一款风冷 8U 服务器,旨在消除大型语言模型的 AI 训练瓶颈,并作为大规模训练集群的一部分。

该服务器现已上市,使用 AMD Infinity Fabric 连接八个 AMD Instinct MI300X GPU,使其能够提供 1.5 TB 的 HBM3 高带宽内存池。这是对 24 个 DIMM 插槽支持的最大 6 TB DDR5 内存的补充。

AS-8125GS-TNMR2 配备 8 个 PCIe Gen 5 薄型扩展插槽,可实现 8 个 400G 网卡和 8 个 GPU 之间的直接连接,以支持大规模集群。它还具有两个 PCIe Gen 5 全高、全长扩展插槽。

主机处理器是两个第四代 AMD EPYC CPU,每个处理器最多支持 128 个内核。

它配备 12 个 PCIe Gen 5 NVMe U.2 驱动器,还可以选择四个附加驱动器、两个热插拔 2.5 英寸 SATA 驱动器和两个 M.2 NVMe 启动驱动器。

其他功能包括内置服务器管理工​​具、Supermicro SuperCloud Composer、Supermicro Server Manager 和硬件信任根。

4.技嘉G593-ZX1

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

技嘉G593-ZX1是一款风冷5U服务器,专为人工智能训练和推理而设计,特别是在涉及大型语言模型和其他类型的海量人工智能模型时。

该服务器使用AMD Infinity Fabric连接八个AMD Instinct MI300X GPU,使其能够提供1.5 TB的HBM3高带宽内存和42.4 TBps的峰值理论聚合内存带宽。它还支持 24 个 DDR5 内存 DIMM,并配有 12 个用于 GPU、网卡或存储设备的 PCIe Gen 5 扩展插槽。

G593-ZX1 的主机处理器是两个第四代 AMD EPYC CPU。

它支持八个2.5英寸NVMe/SATA/SAS-4热插拔驱动器。

该服务器的功能包括驱动器托架的免工具设计、可选的 TPM 2.0 模块、智能穿越、智能危机管理和保护以及双 ROM 架构。

预计将于今年上半年上市。

5.Supermicro AS-2145GH-TNMR

5 款采用AMD Instinct MI300芯片的超酷AI和HPC服务器

Supermicro 的 AS-2145GH-TNMR 是一款液冷 2U 服务器,旨在加速高性能计算工作负载。

该服务器现已上市,配备四个 AMD Instinct MI300A 加速器,每个加速器在同一芯片封装上结合了 Zen 4 CPU 和 CDNA 3 GPU 内核以及 HBM3 内存,以打破 CPU-GPU 通信的传统瓶颈。每个芯片上配备128GB HBM3高带宽内存,系统总共提供512GB内存。

AS-2145GH-TNMR 支持八个 2.5 英寸 US NVMe 热插拔驱动器选件。它还配备了两个 M.2 NVMe 启动驱动器。

Supermicro表示,与风冷解决方案相比,该服务器的直接芯片定制液体冷却技术使数据中心运营商能够将总拥有成本降低51%以上。它还使粉丝数量减少了 70%。

AS-2145GH-TNMR 配备两个紧凑型 PCIe Gen 5 AIOM 插槽和八个 PCIe Gen 5 x 16 插槽,支持超级计算集群的 400G 以太网 InfiniBand 网络。

其他功能包括内置服务器管理工​​具、Supermicro SuperCloud Composer、Supermicro Server Manager 和 SuperDoctor 5。

更多服务器资讯欢迎访问我的网站:国外VPS资讯网

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/832177.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

新手必看!场外个股期权的权利金估算公式

场外个股期权的权利金估算公式 场外个股期权的权利金估算公式通常涉及多个因素,这些因素共同决定了权利金的具体数额。虽然具体的估算公式可能因不同的交易平台、交易规则和标的资产而有所差异,但一般来说,权利金的计算会考虑以下几个关键要…

毕业单纯的钻研嵌入式知识有前景吗?

毕业之后单纯地去钻研嵌入式知识到底有没有前景呢?不可否认的是,嵌入式领域有着较高的薪资待遇,并且还存在着巨大的上升空间。然而,要学习嵌入式开发并非易事,其中存在着诸多挑战。其中一个挑战就是需要深入理解计算机…

前端奇怪面试题总结

面试题总结 不修改下面的代码进行正常结构 这道题考的是迭代器和生成器的概念 let [a,b] {a:1,b:2}答案 对象缺少迭代器,需要手动加上 Object.prototype[Symbol.iterator] function* (){// return Object.values(this)[Symbol.iterator]()return yeild* Object.v…

SpringBootWeb创建

创建spring项目 创建SpringBoot工程定义请求处理类运行常见问题java: 无效的源发行版: XXjava: 无法访问org.springframework.web.bind.annotation.RequestMapping类文件具有错误的版本 61.0, 应为 52.0 创建SpringBoot工程 定义请求处理类 RestController public class HelloC…

毕业设计uniapp+vue有机农产品商城系统 销售统计图 微信小程序

本人在网上找了一下这方面的数据发现农村中的信心普及率很是低农民们都不是怎么会用手机顶多就是打打电话发发短信,平时不太会上网更不会想到通过网络手段去卖出自己的劳作成果—农产品,这无疑大大浪费了农民的劳动成果和国家资源也大大打击了人们的生产…

Centos7配置NFS

环境描述 服务器IP为192.168.200.132客户机IP为192.168.200.143 服务器配置 首先安装软件包 [rootlocalhost ~]# yum install nfs-utils rpcbind //我这里已经安装完毕了建立共享目录 [rootlocalhost ~]# mkdir -p /data/share更改文件夹权限 chmod 777 /data/share编辑配置…

vsftp虚拟用户和ssl加密配置 —— 筑梦之路

为什么要用虚拟用户? 1.增强安全性:使用虚拟用户,可以避免直接使用系统账户进行 FTP 访问,通过使用虚拟用户,可以限制 FTP 用户的访问范围和权限,减少潜在的安全风险。 2.隔离用户和文件:虚拟用户可以被隔…

docker如何关闭证书认证

目录 前言关闭Docker认证的步骤修改pom 前言 当docker认证证书过期了,项目又要马上上线怎么办?重新生成证书,时间来不及,这时最快的方法就是关闭证书认证。 关闭Docker认证的步骤 停止Docker服务 systemctl stop docker编辑Do…

Ts创建的详细过程及配置步骤(傻瓜式配置创建),最后效果展示

一:首先创建一个 空文件夹 二:使用编辑器打开,再创建一个src文件夹,然后按照以下步骤

VMware worksation 17 简易安装Centos8.2、Redhat8.2、Ubuntu16.04

系列文章目录 文章目录 系列文章目录前言一、VMware worksation 17 安装二、安装Centos8.2三、安装RHEL8.2四、安装Ubuntu16.04总结 前言 傻瓜式按照Linux系统,如果觉得简单,可以自定义设置,特别是配置一下磁盘空间大小,对以后排…

2023年上半年系统规划与管理师上午真题及答案解析

1.香农用概率来定量描述信息的公式如下,其中H(x)表示X的( ),Pi是( )出现第i种状态的( )。 A.信息熵 事件 概率 B.总熵 单位 概率 C.信息熵 单位 概率 D.总熵 单位 度量 2.信息传输模型中,( )负责信息的向外传播,( )负责…

数据结构--链表进阶面试题

在链表题目开始之前我们来复习一道数组元素的逆序问题&#xff1a; 给定一个整数数组 nums&#xff0c;将数组中的元素向右轮转 k 个位置&#xff0c;其中 k 是非负数。 提示&#xff1a; 1 < nums.length < 10^5-2^31 < nums[i] < 2^31 - 10 < k < 10^5 思…

wordpress子比主题给文章内容加上密码查看

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、pandas是什么?二、使用步骤1.引入库2.读入数据第三步:文章内添加代码前言 提示:这里可以添加本文要记录的大概内容: 例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,…

Docker容器:Docker-Consul的容器服务更新与发现

目录 前言 一、什么是服务注册与发现 二、 Docker-Consul 概述 1、Consul 概念 2、Consul 提供的一些关键特性 3、Consul 的优缺点 4、传统模式与自动发现注册模式的区别 4.1 传统模式 4.2 自动发现注册模式 5、Consul 核心组件 5.1 Consul-Template组件 5.2 Consu…

一款 NodeJS 版本管理工具 NVM (Windows)

一、简介 Node Version Manager&#xff08;NVM&#xff09;是一种用于管理多个 NodeJS 版本的工具。在日常工作中&#xff0c;我们可能同时在进行多个不同的项目开发&#xff0c;每个项目的需求不同&#xff0c;依赖与不同版本的NodeJS 运行环境。这种情况下&#xff0c;维护…

SAP PP学习笔记11 - PP中的MRP相关概念,参数,配置

上文讲了作业区的概念及配置。 SAP PP学习笔记08 - 作业区&#xff08;工作中心Work Center&#xff09;&#xff0c;作业区Customize-CSDN博客 SAP PP学习笔记09 - 作业区&#xff08;工作中心Work Center&#xff09;Customize2&#xff08;管理码&#xff0c;班次顺序&…

利用github pages建立Serverless个人博客

利用github pages建立Serverless个人博客 概述 使用github pages&#xff0c;可以在github上部署静态网站。利用这个功能&#xff0c;可以很方便地实现个人博客的发布托管。 比如我的个人博客&#xff1a;Buttering’s Blog 对应代码仓库&#xff1a;buttering/EasyBlog: 自…

【WPF学习笔记(一)】WPF应用程序的组成及Window类介绍

WPF应用程序的组成及Window类介绍 WPF应用程序的组成及Window类介绍前言正文1、WPF介绍1.1 什么是WPF1.2 WPF的特点1.3 WPF的控件分类 2、XAML介绍2.1 XAML的定义2.2 XAML的特点2.3 XAML的命名空间 3、WPF应用程序组成3.1 App.config3.2 App.xaml3.3 App.xaml.cs3.4 MainWindow…

微服务---feign调用服务

目录 Feign简介 Feign的作用 Feign的使用步骤 引入依赖 具体业务逻辑 配置日志 在其它服务中使用接口 接着上一篇博客&#xff0c;我们讲过了nacos的基础使用&#xff0c;知道它是注册服务用的&#xff0c;接下来我们我们思考如果一个服务需要调用另一个服务的接口信息&…

【C++】学习笔记——vector_3

文章目录 七、vector3. vector的模拟实现4. vector实现代码整合 未完待续 七、vector 3. vector的模拟实现 上篇文章我们讲解了非常 玄幻 的拷贝构造函数&#xff0c;同样的方法&#xff0c;我们也能用这种方法来实现 赋值重载函数 。 void swap(vector<T>& v) {s…