NVIDIA发布DGX GH200超级电脑:搭载144TB内存,超越4090一万倍 #nvidia - 有点硬核的宅同学于20230530发布在抖音,已经收获了77.8万个喜欢,来抖音,记录美好生活!
AI运算对内存容量的要求更高,所以DGX GH200通过最新的NVLink、NVLink Switch等技术连接了256块Grace Hooper超级芯片,实现了极为夸张的性能及内存。 Grace Hooper我们之前报道过,这是一块CPU+GPU合体的超级芯片,CPU是NVIDIA自研的72核处理器,Neoverse V2内核,拥有480GB LPDDR5内存,512GB/s带宽。 GPU部分是H100,FP6...
这表明 DGX GH200 是更高级的 AI 和 HPC 模型的更好解决方案,这些模型需要海量内存来进行 GPU 共享内存编程。 △大内存 AI 工作负载的性能比较 凭借256个GH200超级芯片的加持,DGX GH200 的“AI 性能”也达到了 1 exaflop(一百万万亿次)级别。 在软件工具方面,DGX GH200超级计算机还配备了NVIDIA软件,可为最...
DGX GH200 中的每个 Grace Hopper Superchip 都与一个NVIDIA ConnectX-7网络适配器和一个NVIDIA BlueField-3 NIC配对。DGX GH200 拥有 128 TBps 对分带宽和 230.4 TFLOPS 的 NVIDIA SHARP 网内计算,可加速 AI 中常用的集体操作,并通过减少集体操作的通信开销,将 NVLink 网络系统的有效带宽提高一倍。 为了扩展...
此外，该产品已经加入了400多种系统配置，包括了英伟达最新的CPU、GPU和DPU架构的组合，旨在满足不断增长的生成式AI需求。老黄还宣布，在今年上市的超算DGX GH200由256块Grace Hopper超级芯片组成，可提供高达1exaflop的超凡AI性能和144TB的共享内存。另外，英伟达正在建造自己的大型AI超级计算机NVIDIA Helios，预计在今年...
而DGX GH200则由海量的Grace Hopper芯片所组成，英伟达为其开发了全新的NVLink Switch系统，最高可以将256个Grace Hopper芯片连接在一起，内存容量达到了恐怖的144TB，与上一代产品相比，DGX GH200的GPU到CPU的带宽提升了10倍，GPU到CPU带宽提升了7倍，此外如果说一台完整体的DGX GH200达到峰值运行的话，那么它的...
DGX GH200是第一款将Grace Hopper超级芯片与NVIDIA NVLink Switch System配对使用的超级计算机，这种新的互连方式使DGX GH200系统中的所有GPU作为一个整体协同运行。上一代系统在不影响性能的前提下只能通过NVLink把8个GPU整合成一个GPU。DGX GH200架构相比上一代将NVLink带宽提升了48倍以上，实现在单个GPU上通过简单...
NVLink 高速访问 144 TB 的内存。与单个相比NVIDIA DGX A100 320 GB 系统， NVIDIA DGX GH200 通过 NVLink 为 GPU 共享内存编程模型提供了近 500 倍的内存，形成了一个巨大的数据中心大小的 GPU 。 NVIDIA DGX GH200 是第一台突破 NVLink 上 GPU 可访问内存 100 TB 障碍的超级计算机。