AMD Instinct MI300X 加速器放棄處理器核心,改為專門提供純粹的顯示卡力量,能在一個節點封裝最多八個顯示卡。結果呢?出色的效能與 HBM3 記憶體容量,由領先業界的記憶體頻寬提供支援,將長久以來的 HPC 工作負載與近年生成式 AI 運算爆炸性的需求增長,加速提升至新境界。2 AMD Instinct MI300X 加速器提供 192GB...
AMD 提到，在训练性能方面，MI300X 与竞争对手（H100）不相上下，并提供具有竞争力的价格 / 性能，同时在推理工作负载方面表现更为出色。MI300X AI 加速卡软件堆栈升至 ROCm 6.0，改善支持生成式 AI 和大型语言模型。新的软件堆栈支持最新的计算格式，如 FP16、Bf16 和 FP8（包括 Sparsity）。架构：AMD Insti...
MI300X拥有192GB的内存、5.2TB/s的内存带宽和896GB/s的InfinityFabric带宽，晶体管数量达到1530亿个。相较于英伟达的H100芯片，MI300X提供了更高的HBM密度和HBM带宽，为客户节省了大量成本。令人称奇的是，在发布会上，AMDCEO苏姿丰演示了使用MI300XGPU实时写作一首关于旧金山的诗歌，展示了其强大的性能和创造力。
AMD表示MI300X在人工智能推理工作的性能是英伟达H100的1.6倍,在人工智能训练时的性能与H100相当,从而为业界提供了替代选项,以取代英伟达GPU。得益于高达192GB(是H100 80GB的两倍多)的高速HBM3显存,MI300X平台能够支持更大规模的大语言模型(LLM)。 性能方面,AMD使用同样由8颗GPU组成的MI300X、H100 HGX计算平台进行...
AMD重磅发布人工智能GPU Instinct MI300 近日，AMD举行了重磅发布会，推出了一款全新的人工智能GPU Instinct MI300。早在今年初，AMD便已经宣布了新一代Instinct MI300，是全球首款同时集成CPU、GPU的数据中心APU。如今，这款芯片的名字变成了Instinct MI300A，而纯GPU产品则命名为Instinct MI300X。据AMD的CEO苏姿丰...
AMD称，MI300X提供的HBM密度最高是英伟达AI芯片H100的2.4倍，其HBM带宽最高是H100的1.6倍。这意味着，AMD的芯片可以运行比英伟达芯片更大的模型。苏姿丰介绍，MI300X可以支持400亿个参数的Hugging Face AI 模型运行，并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300...
Release Date Dec 6th, 2023 Generation Radeon Instinct (MIx) Predecessor FirePro Data Center Production unknown Bus Interface PCIe 5.0 x16 Clock Speeds Base Clock 1000 MHz Boost Clock 2100 MHz Memory Clock 2525 MHz 10.1 Gbps effective Memory Memory Size 192 GB Memory Type HBM3 Memory...
MI300X的HBM密度高达英伟达AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可以运行的模型比H100的更大。AMD发布的其他新品已吸引硅谷巨头:亚马逊云运用四代EPYC 处理器打造实例;微软Azure推出搭载Genoa-X CPU的新实例;Meta计划使用AMD的新云芯片Bergamo。 凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。
AMD推出新款AI芯片，宣布MI300X加速器开始出货 美国超威半导体公司（AMD）于当地时间12月6日在圣何塞举行“Advancing AI”活动，推出其AI芯片Instinct MI300系列产品，包括MI300A与MI300X等新品与配套软件、服务等。AMD称，其MI300A已进入量产，MI300X则开始出货。据介绍，其AI GPU加速器Instinct MI300X基于全新AMD...
IT之家 12 月 7 日消息,AMD 今天凌晨 2 点举办“Advancing AI”活动中,正式宣布了旗舰 AI GPU 加速器 MI300X,其性能比英伟达的 H100 高出 60%。 性能: AMD 公司在演讲过程中,对比英伟达的 H100 加速卡,分享了 MI300X 的性能参数情况,IT之家附上数值如下: ...