NVIDIA发布DGX GH200超级电脑:搭载144TB内存,超越4090一万倍 #nvidia - 有点硬核的宅同学于20230530发布在抖音,已经收获了77.8万个喜欢,来抖音,记录美好生活!
DGX GH200 中的每个 Grace Hopper Superchip 都与一个NVIDIA ConnectX-7网络适配器和一个NVIDIA BlueField-3 NIC配对。DGX GH200 拥有 128 TBps 对分带宽和 230.4 TFLOPS 的 NVIDIA SHARP 网内计算,可加速 AI 中常用的集体操作,并通过减少集体操作的通信开销,将 NVLink 网络系统的有效带宽提高一倍。 为了扩展...
NVIDIA在台北电脑展上发布了一款配备了256个Grace Hopper芯片的新型AI超算系统DGX GH200。Grace Hopper是一款由CPU和GPU合成的超级芯片，其中CPU拥有72核、480GB LPDDR5内存，GPU部分则是H100，FP64性能34TFLOPS，INT8性能达到3958TFLOPS，带96GB HBM3内存。GH200总计配备了256块Grace Hooper芯片，18432个CPU核心，144...
NVIDIA DGX GH200:AI性能突破1 Exaflop NVIDIA此前的 DGX A100 系统只能将八个 A100 GPU 联合起来作为一个单元,面对生成式人工智能大模型对于算力的爆炸式增长,NVIDIA的客户迫切需要更大、更强大的系统。DGX GH200就是为了提供最大的吞吐量和可扩展性而设计的。
GH200则由海量的Grace Hopper芯片所组成，英伟达为其开发了全新的NVLink Switch系统，最高可以将256个Grace Hopper芯片连接在一起，内存容量达到了恐怖的144TB，与上一代产品相比，DGX GH200的GPU到CPU的带宽提升了10倍，GPU到CPU带宽提升了7倍，此外如果说一台完整体的DGX GH200达到峰值运行的话，那么它的AI性能...
以32个pod运算集群组成的DGX GH200系统，可提供高达1 Exaflops的AI运算性能 不仅如此，各Grace Hopper运算卡之间可以使用NVLink互联，每8个Grace Hopper相连形成一个pod运算集群，最多可以支持256个Grace Hopper创建32个pods，以组成一个完整的DGX GH200系统，如此一来，在FP8精度下可提供高达1 Exaflops的AI运算性能。
此外，该产品已经加入了400多种系统配置，包括了英伟达最新的CPU、GPU和DPU架构的组合，旨在满足不断增长的生成式AI需求。老黄还宣布，在今年上市的超算DGX GH200由256块Grace Hopper超级芯片组成，可提供高达1exaflop的超凡AI性能和144TB的共享内存。另外，英伟达正在建造自己的大型AI超级计算机NVIDIA Helios，预计在今年...