中国电子技术网

设为首页 网站地图 加入收藏

 
 
  • 首页 > 新品 > Supermicro基于NVIDIA GH200 Grace Hopper超级芯片的服务器开始出货,为业界首款NVIDIA MGX系列产品

Supermicro基于NVIDIA GH200 Grace Hopper超级芯片的服务器开始出货,为业界首款NVIDIA MGX系列产品

关键词:Supermicro NVIDIA GH200 Grace Hopper超级芯片 服务器

时间:2023-10-27 10:05:07      来源:美超微电脑股份有限公司

Supermicro,Inc.为AI、云端、存储和 5G/边缘领域的全方位IT解决方案制造商,近日宣布推出业内目前最广泛的新型GPU系统组合之一。这些产品均基于英伟达(NVIDIA)参考架构,搭载了最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超级芯片。

Supermicro基于NVIDIA GH200超级芯片的服务器平台借助紧密集成的CPU和GPU提高了AI工作负载的性能,并纳入了最新的DPU网络和通信技术

Supermicro,Inc. (纳斯达克股票代码:SMCI)为AI、云端、存储和 5G/边缘领域的全方位IT解决方案制造商,近日宣布推出业内目前最广泛的新型GPU系统组合之一。这些产品均基于英伟达(NVIDIA)参考架构,搭载了最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超级芯片。这种新的模块化架构旨在通过紧凑的1U和2U规格将AI基础设施和加速计算标准化,同时面向当前及未来的GPU、DPU和CPU提供高灵活性和扩展度。Supermicro先进的液冷技术有助于实现非常高密度的硬件配置,例如搭载2颗NVIDIA GH200 Grace Hopper超级芯片的1U 2节点配置,两者借助高速互连技术整合在一起。Supermicro每月可通过全球的工厂交付数以千计的机架级AI服务器,并确保即插即用兼容性。


MGX 1080

Supermicro总裁兼首席执行官梁见后(Charles Liang)表示:"Supermicro是推动当前AI革命的公认领先企业。我们助力数据中心转型,助力将AI用于各种工作负载内。对于我们来说,为快速发展的AI技术带来高度模块化、可扩展性和通用性的服务器系统至关重要。Supermicro基于NVIDIA MGX的解决方案不但证明我们的Building Block伺服器解决方案能使我们迅速将最新系统引进市场,也是产业中工作负载最佳化性能非常高的解决方案。通过携手英伟达,我们正助力加速合作企业产品上市时间,并助其在开发新AI应用程式的同时简化部署程序,降低对环境的影响。我们新推出的一系列服务器採用了针对AI最佳化的最新产业技术,包括NVIDIA GH200 Grace Hopper超级芯片、BlueField和PCIe 5.0 EDSFF插槽。"

英伟达超大规模和高性能计算副总裁Ian Buck表示:"英伟达和Supermicro长期以来一直在合作开发一些高性能的人工智能系统。NVIDIA MGX模块化参考设计与Supermicro的服务器专业技术相结合,将创造出採用我们Grace和Grace Hopper超级芯片的新一代人工智能系统,使全球客户和行业受益。"

Supermicro NVIDIA MGX平台总览

Supermicro的NVIDIA MGX平台旨在提供面向未来AI技术需求的一系列服务器。这条新产品线可以应对AI服务器独特的散热、功耗和硬件挑战。

新的Supermicro MGX系列服务器包括:

• ARS-111GL-NHR —— 1颗NVIDIA GH200 Grace Hopper超级芯片,风冷
• ARS-111GL-NHR-LCC —— 1颗NVIDIA GH200 Grace Hopper超级芯片,液冷
• ARS-111GL-DHNR-LCC —— 2颗NVIDIA GH200 Grace Hopper超级芯片,2个节点,液冷
• ARS-121L-DNR —— 2个节点,每个节点2颗NVIDIA Grace超级芯片,共288个内核
• ARS-221GL-NR —— 2U,1颗NVIDIA Grace CPU超级芯片

SYS-221GE-NR —— 搭载双插槽的第4代Intel Xeon可扩展处理器,并可搭配最多4个NVIDIA H100 Tensor Core或4个NVIDIA PCIe GPU

每个 MGX 平台都可通过 NVIDIA BlueField®-3 DPU 和/或 NVIDIA ConnectX®-7 互连实现高性能 InfiniBand 或以太网联网。

硬件规格

Supermicro的1U NVIDIA MGX系统最多搭载2颗NVIDIA GH200 Grace Hopper超级芯片,共包含2个NVIDIA H100 GPU和2个NVIDIA Grace CPU。每个系统为CPU配备480GB的LPDDR5X内存,而为GPU配备96GB的HBM3内存或144GB的HBM3e内存。内存一致、高带宽、低时延的NVIDIA-C2C以900GB/s的速度将CPU、GPU和内存互连,是PCIe 5.0的7倍。该系统的模块化架构提供多个PCIe 5.0 x16 FHFL插槽,以连接用于云端和数据管理的DPU,并可进行额外的GPU、网络和存储硬件扩展。

具备2个NVIDIA GH200 Grace Hopper 超级芯片的1U 2节点设计及Supermicro成熟的Direct-to-Chip液冷解决方案可将运营成本降低40%以上,同时提高计算密度,并简化大型语言模型(LLM)集群和HPC应用的机架级部署。

2U机箱设计的Supermicro NVIDIA MGX平台支持NVIDIA Grace和x86架构的CPU,以及最多4个全尺寸数据中心GPU,如NVIDIA H100 PCIe、H100 NVL或L40S,并同时提供3个用于I/O连接的额外PCIe 5.0 x16插槽和8个热插拔EDSFF硬盘托架。

Supermicro提供NVIDIA网络技术,能保护并加速其 MGX 平台上的人工智能工作运行。这包括NVIDIA BlueField-3 DPU(提供 2x 200Gb/s 连接,用于加速用户到云和数据存储访问)和 ConnectX-7 适配器(在 GPU 服务器之间提供最高 400Gb/s 的 InfiniBand 或以太网连接)的组合。

开发者可以快速透过这些新系统与NVIDIA软件服务来处理各种不同产业的工作负载。该软件服务包含NVIDIA AI Enterprise——一款的企业级软件,能够驱动NVIDIA AI平台并简化生产就绪的生成式人工智能、计算机视觉、语音人工智能等的开发和部署。此外,NVIDIA HPC 软件开发工具包提供了推动科学计算发展所需的基本工具。

从智能散热设计到组件选择,Supermicro NVIDIA MGX系统的方方面面均旨在提高效率。NVIDIA Grace超级芯片的CPU具有144个内核,每瓦性能高达当前行业标准x86 CPU的2倍。特定的Supermicro NVIDIA MGX系统可在1U机箱中配置2个节点,能够搭载具有最高共288个内核的2组Grace CPU超级芯片,可以在超大规模和边缘数据中心提供突破性的计算密度和能效。

关于Super Micro Computer, Inc. 

Supermicro(纳斯达克股票代码:SMCI)为应用最佳化全方位 IT 解决方案的全球领导者。Supermicro 的成立据点及营运中心位于美国加州圣何塞,致力为企业、云端、AI和 5G 电信/边缘 IT 基础架构提供领先市场的创新技术。我们是全方位 IT 解决方案制造商,提供服务器、AI、存储、物联网、交换器系统、软件及支援服务。Supermicro的主板、电源和机箱设计专业进一步动了我们的发展与产品生产,为全球客户实现了从云端到边缘的下一代创新。我们的产品皆由企业内部团队设计及制造(在美国、亚洲及荷兰),透过全球化营运提供规模生产及展现绝佳效率,透过最佳化设计,不但降低总体拥有成本(TCO),还能透过先进的绿色运算技术来减少对环境的冲击。屡获殊荣的 Server Building Block Solutions® 产品组合,让客户可以自由选择这些具高度弹性、可重复使用且极为多元的建构式组合系统,我们支持各种外形尺寸、处理器、内存、GPU、存储、网络、电源和散热解决方案(空调、自然风冷或液冷),因此能为客户的工作负载与应用提供最佳的效能。 

  • 分享到:

 

猜你喜欢

  • 主 题:PIC®和AVR®单片机如何在常见应用中尽展所长
  • 时 间:2024.11.26
  • 公 司:DigiKey & Microchip

  • 主 题:高效能 • 小体积 • 新未来:电源设计的颠覆性技术解析
  • 时 间:2024.12.11
  • 公 司:Arrow&村田&ROHM

  • 主 题:盛思锐新型传感器发布:引领环境监测新纪元
  • 时 间:2024.12.12
  • 公 司:sensirion

  • 主 题:使用AI思维定义嵌入式系统
  • 时 间:2024.12.18
  • 公 司:瑞萨电子&新晔电子