Dell PowerEdge XE9712：NVIDIA GB200 NVL72 AI GPU集群，助力LLM训练与推理
10/17/2024, 03:49 AM UTC
戴尔PowerEdge XE9712：基于NVIDIA GB200 NVL72的人工智能GPU集群，用于LLM训练和推理Dell PowerEdge XE9712: NVIDIA GB200 NVL72-based AI GPU cluster for LLM training, inference
➀ 戴尔推出了搭载NVIDIA GB200 NVL72 AI服务器的PowerEdge XE9712，其实时LLM性能比H100 AI GPU快30倍；➁ 系统包含72个B200 AI GPU，通过NVLink技术连接，提供超快连接性；➂ 戴尔强调液冷系统可以最大化数据中心电力利用率，并快速部署AI集群。➀ Dell has launched the new PowerEdge XE9712 with NVIDIA GB200 NVL72 AI servers, offering 30x faster real-time LLM performance over the H100 AI GPU; ➁ The system features 72 x B200 AI GPUs connected with NVLink technology, providing lightning-fast connectivity; ➂ Dell highlights the liquid-cooled system for maximizing datacenter power utilization and rapid deployment of AI clusters.戴尔近日发布 了搭载NVIDIA GB200 NVL72 AI服务器的全新PowerEdge XE9712，旨在提供比H100 AI GPU快30倍的实时LLM性能。
该系统集成了72个B200 AI GPU，通过NVLink技术连接，实现了闪电般的连接速度。戴尔强调，其液冷系统可以最大化数据中心的电力利用率，并快速部署AI集群。
此外，该平台支持高达36个NVIDIA Grace CPU与72个NVIDIA Blackwell GPU的连接，形成一个GPU域，实现高达30倍于H100 AI GPU的实时万亿参数LLM推理速度。基于XE9680的成功，XE9712在单机架内实现了72个GPU的协同工作，并支持大规模部署，包括机架间的全面网络连接，由戴尔的机架级部署服务、供应链和物流支持。
---
本文由大语言模型（LLM）生成，旨在为读者提供半导体新闻内容的知识扩展（Beta）。
