北京时间12月23日,独立分析机构SemiAnalysis公开AMD MI300X与Nvidia H100/H200 GPU性能对比测试报告。测试结果显示,MI300X在实际训练性能上与Nvidia的GPU存在显著差距。在AI算力领域,NVIDIA长期占据主导地位,但AMD的最新GPU产品MI300X 被承认成为最有力的挑战者之一。9月份,根据The Information发布的评测报告,AMD的...
具体来说,与H100相比,MI300的性能优势在20%到25%之间,具体取决于上下文长度和提示长度/每次查询输出的token数量。再加上更低廉的价格,MI300在性价比方面,将会明显优于英伟达的H100,甚至是H200。大厂纷纷下单 目前,微软、Meta、甲骨文、谷歌、Supermicro/Quantadirect、亚马逊等公司已经向AMD下了大约205,000台MI3...
IT之家 12 月 7 日消息,AMD 今天凌晨 2 点举办“Advancing AI”活动中,正式宣布了旗舰 AI GPU 加速器 MI300X,其性能比英伟达的 H100 高出 60%。性能:AMD 公司在演讲过程中,对比英伟达的 H100 加速卡,分享了 MI300X 的性能参数情况,IT之家附上数值如下:内存容量是 H100 的 2.4 倍内存带宽是 H1...
AMD 的 MI300X 平台在 300 亿参数 MPT 训练工作负载中提供的性能与 H100 HGX 系统大致相同,但需要注意的是,此测试并不是加速器的一对一比较。相反,该测试让八个加速器组相互竞争,因此平台级功能更像是一个限制因素。无论哪种情况,这种性能都会很快引起受到英伟达GPU 短缺困扰的行业的兴趣。说到平台能力,A...
你可能倾向于相信 AMD MI300X 和英伟达 H100 之间的性能差异是因为:一致性互连将 GPU 绑定到其各自 UBB 和 HGX 板上的共享内存复合体中。AMD 机器上的是 Infinity Fabric,而英伟达机器上的是 NVSwitch。Infinity Fabric 的每台 GPU 的双向带宽为 128 GB/s,而 NVLink 4 端口和 NVSwitch 3 交换机的带宽为...
hips and Cheese 的缓存基准测试表明,在所有相关缓存级别中,MI300X 的缓存带宽都大大优于 Nvidia 的 H100。一级缓存性能显示 MI300X 的带宽是 H100 的 1.6 倍,二级缓存的带宽是 H100 的 3.49 倍,MI300X 的最后一级缓存(即无限缓存)的带宽是 H100 的 3.12 倍。显存带宽 AMD GPU 的本地 HBM3 ...
在美国加州圣何塞举行的AI 特别活动中,AMD(AMD.O)宣布正式推出其旗舰AI GPU加速器MI300X,并称其性能比英伟达(NVDA.O)的H100芯片提高了60%。据AMD介绍,新芯片为性能最高的芯片,拥有超过1500亿个晶体管。与英伟达H100芯片相比,AMD新芯片的内存为其2.4倍,内存带宽为其1.6倍,训练性能与H100 芯片相当,在...
随着人工智能(AI)技术的飞速发展,计算引擎的性能竞赛也愈演愈烈。近期,MLCommons发布的最新AI训练和推理基准测试结果,他们构建了一套 MLPerf AI 训练和推理基准,将AMD的Instinct“Antares”MI300X GPU与Nvidia的“Hopper”H100、H200以及“Blackwell”B200系列GPU进行了直接对比,为我们揭开了这场算力大战的新篇章。
12月7日消息,AMD于当地时间周三举行了“Advancing AI”发布会,正式推出了面向AI及HPC领域的GPU产品Instinct MI300A/MI300X加速器,直接与英伟达(NVIDIA)H100加速器竞争。同时AMD还发布了代号为Hawk Point的最新一代Ryzen 8000系列APU,可面向AI PC产品。MI300A:HPC性能达到NVIDIA H100的4倍 虽然在今年6月的“...