IT之家 6 月 27 日消息,科技博客 Chips and Cheese 于 6 月 25 日发布博文,详细测试了 AMD MI300X GPU,并在高速缓存、延迟、推理等方面对比后发现,性能远超英伟达的 H100。MI300X 简介 AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造,采用混合的 5nm 和 6nm 制程工艺,最多拥有 1530 ...
IT之家 12 月 7 日消息,AMD 今天凌晨 2 点举办“Advancing AI”活动中,正式宣布了旗舰 AI GPU 加速器 MI300X,其性能比英伟达的 H100 高出 60%。性能:AMD 公司在演讲过程中,对比英伟达的 H100 加速卡,分享了 MI300X 的性能参数情况,IT之家附上数值如下:内存容量是 H100 的 2.4 倍内存带宽是 H1...
什么是 AMD Instinct MI300X GPU? AMD Instinct MI300X GPU 旨在通过紧凑高效的设计,提升 AI 和 HPC 计算能力。这些下一代 GPU 现已在 DigitalOcean 上提供,采用单租户裸金属配置,适用于需要更高控制力和计算能力的客户。 MI300X 通过每个节点八块 GPU、高计算单元数量和 HBM3 内存容量,提供强劲的加速性能。...
另外,同步于Q4上市的Instinct MI300X Platform是一个OCP标准整机形态,内置8路MI300X GPU,共计1.5T...
Artificial Analysis最近分析了AI模型性能和定价,特别指出AMD的“Antares” Instinct MI300X GPU加速器在运行Meta Platforms最新发布的Llama 3.1 405B模型方面可能会优于Nvidia的硬件。考虑到开源PyTorch框架和Llama模型的优势,我们认为PyTorch/Llama组合将会非常流行。AMD的技术团队显然已经针对这一技术栈对Antares GPU进行...
12 月 7 日消息,AMD 今天凌晨 2 点举办“Advancing AI”活动中,正式宣布了旗舰 AI GPU 加速器 MI300X,其性能比英伟达的 H100 高出 60%。性能:AMD 公司在演讲过程中,对比英伟达的 H100 加速卡,分享了 MI300X 的性能参数情况,IT之家附上数值如下:内存容量是 H100 的 2.4 倍 内存带宽是 H100 的 ...
IT之家 6 月 27 日消息,科技博客 Chips and Cheese于 6 月 25 日发布博文,详细测试了 AMD MI300X GPU,并在高速缓存、延迟、推理等方面对比后发现,性能远超英伟达的 H100。 MI300X 简介 AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造,采用混合的 5nm 和 6nm 制程工艺,最多拥有 1530 亿晶体...
AMD 表示,其 Instinct MI300X GPU 在人工智能推理工作负载中的性能比英伟达H100 高出 1.6 倍,并在训练工作中提供类似的性能,从而为业界提供了急需的英伟达GPU 的高性能替代品。此外,这些加速器的 HBM3 内存容量是英伟达GPU 的两倍以上(每个 192 GB 令人难以置信),使其 MI300X 平台能够支持每个系统两倍以...
AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,拥有192GB的HBM3内存、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。 AMD称,MI300X提供的HBM密度最高是英伟达AI芯片H100的2.4倍,其HBM带宽最高是H100的1.6倍。这意味着,AMD的芯片可以运...
不过MI300A只是开胃小菜,因为这次最受瞩目的则是一款纯GPU产品,即Instinct MI300X,其内存达到192GB,内存带宽为5.2TB/s,Infinity Fabric带宽为896GB/s,晶体管达到1530亿个。据苏姿丰介绍,相比英伟达H100芯片,MI300X提供的HBM密度最高是H100的2.4倍,HBM带宽则是H100的1.6倍。这也就意味着,以后生成式AI...