不过，AMD透露MI325X的功耗达到了1000W，相比MI320X增加了750W。MI325X也支持八块并行组成一个平台，这就有多达2TB HBM3E、48TB/s带宽，总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。这个规模对比NVIDIA H200 HGX，分别有80％、30％、30％的优势。对比NVIDIA H200...
1x MI325X在1000瓦的vLLM效能:48.025秒延遲(以秒為單位)對比1x H200在700瓦及TensorRT-LLM:62.688秒延遲(以秒為單位)。 配置: AMD Instinct™ MI325X參考平台: 1x AMD Ryzen™ 9 7950X 16核心處理器、1x AMD Instinct MI325X (256GiB, 1000瓦) GPU、Ubuntu® 22.04、and ROCm™ 6.3 pre-rel...
与英伟达上一代的旗舰GPU 加速器H200相比，MI325X的内存容量更大（256Gvs141G），内存带宽也更高（6TB/s vs 4.8TB/s）。在算力方面，虽然英伟达官方宣称H200的FP16 算力可达1.9 PF，但经semianalysis实测，其实际算力约为1 PF，与H100持平，比MI325X低了30%。因此AMD MI325X在推理方面的表现平均超越H200...
最新的MI325X加速器将于2024年第四季度上市。即将推出的名为MI350的芯片系列，预计将于2025年上市，并将基于新的芯片架构。与现有的MI300系列人工智能芯片相比，MI350在推理方面的性能预计将提高35倍。2026年，MI400系列将会被推出，该系列将基于名为「Next」的架构。如此这般，AMD和英伟达「你方唱罢我登场」，两...
AMD 声称 Instinct MI325X AI GPU 加速器在 Mixtral 8x7B 中应该比 NVIDIA H200 快 40%，在 Mistral 7B 中快 30%，在 Meta Llama 3.1 70B LLM 中快 20%。与 Llama 3.1 405B 中的 H200 HGX AI 平台相比，8x MI325X 平台的性能也将提高 40%，在 70B 推理测试中的性能提高 20%。在 AI 训练...
CES 2025：AMD展示Instinct MI325X，配备256GB的HBM3E 去年10月，AMD在“Advancing AI 2024”直播活动中，正式发布了Instinct MI325X。据TomsHardware报道，今年的CES 2025上，AMD除了推出了一系列消费端产品，还展示了Instinct MI325X，这是目前唯一一款配备256GB HBM3E的AI加速器，有望成为最高效的推理GPU之一。...
6月3日,AMD董事长兼CEO苏姿丰在Computex 2024展会的开幕主题演讲中,公布了全新云端AI加速芯片路线图,今年将会推出全新Instinct MI325X。同时,AMD还发布了代号为“Strix Point”的第三代AI PC芯片“锐龙AI 300系列”,以及AMD Ryzen 9000系列桌面处理器(Granite Ridge)。
据了解，应用于AI数据中心服务器的AMD M300X AI芯片升级版本——MI325X将于第四季度开始上市销售，AMD首席执行官苏姿丰(Lisa Su)在台湾Computex会议的开幕主题演讲中表示，这一款MI300X的继任者将拥有更大的内存和更快速的数据吞吐量。此外，AMD更加先进的MI350系列则将在2025年推出，而MI400系列将在一年后推出。
同时，AMD推出了Instinct MI325X AI GPU加速器，直接对标英伟达的Blackwell。苏姿丰称该新款AI芯片在推理方面的表现超过英伟达同类产品，采用的新型内存会加快AI计算速度。她还指出，AI加速器需求规模超出预期，预计到2027年，AI加速器市场规模将达到4000亿美元，并在2028年进一步升至5000亿美元。有分析将MI325X称为“...
AMD新一代AI芯片MI325X对标英伟达，微美全息积极布局高增长核心赛道 获悉，当地时间10月10日，芯片大厂AMD在旧金山召开了ADVANCING AI 2024发布会，推出了一系列新芯片，包括Instinct MI325X GPU、第五代EPYC服务器CPU、DPU Pensando系列、AI PC处理器锐龙AI PRO 300系列等。作为英伟达在GPU领域的主要竞争对手，这些...