ExaAILabs部署基于Nvidia H200 GPU的Exacluster,旨在打造超越谷歌的搜索引擎
01/11/2025, 01:40 PM UTC
基于Nvidia Hopper的100kW集群部署,配备144个H200 GPU,Exacluster采用192个96核CPU,36TB DDR5 RAM和270TB NVMe存储Nvidia Hopper-based 100kW cluster deploys with 144 H200 GPUs — Exacluster features 192 96-core CPUs, 36TB DDR5 RAM, and 270TB of NVMe storage
➀ ExaAILabs部署了其Exacluster,这是一个基于Nvidia H200 GPU的AI和HPC集群;➁ 该集群旨在构建一个优于谷歌的搜索引擎;➂ Exacluster包括144个H200 GPU、192个96核CPU和36TB DDR5 RAM。➀ ExaAILabs has deployed its Exacluster, a cluster based on Nvidia's H200 GPUs for AI and HPC; ➁ The cluster aims to build a search engine superior to Google's; ➂ The Exacluster includes 144 H200 GPUs, 192 96-core CPUs, and 36TB of DDR5 RAM.ExaAILabs公司宣 布部署了其Exacluster,这是业界首个基于Nvidia H200 GPU的AI和高性能计算集群之一。
该集群旨在构建一个能够比谷歌更好地理解用户并返回比谷歌更优搜索结果的搜索引擎。
Exacluster由18个基于Nvidia H200的8路服务器组成,每个服务器提供144个H200 GPU,每个GPU配备20TB的HBM3E内存(每个GPU 141GB HBM3E),总计算性能达到569,958 TOPS(约570 PetaTOPS)。
集群基于192个96核处理器(共3,456个核心),配备36TB DDR5内存和270TB NVMe固态存储。这台超级计算机消耗100kW的电力,每个机架只安装两台机器,以确保所有服务器都能得到足够的冷却。
Exacluster的成本约为500万美元,这意味着每台机器277,777美元,与单个8路H200底板的价格相当,而不是整个服务器的成本。
---
本文由大语言模型(LLM)生成,旨在为读者提供半导体新闻内容的知识扩展(Beta)。