今天，代号为「Sapphire Rapids」的第四代至强可扩展处理器也在中国迎来发布首秀，除了一系列微架构的革新和技术规格的升级外，新 CPU 对 AI 运算「更上层楼」的支持也格外引人关注，其背后的技术助力，也是英特尔在这代产品中增添的全新内置 AI 加速器 —— 英特尔高级矩阵扩展（AMX）技术自然也成为了焦点。作为...
近日，第五代英特尔至强可扩展处理器的出现，让业内再一次看到，利用CPU同样能提升AI的工作效率，在CPU上跑AI,也可以很“香”。CPU在AI领域的新使命 据了解，与训练相比，AI推理对算力资源的需求相对较小，对于一些推理任务较轻的业务或行业来说，相比专业的AI加速芯片，选择CPU更具成本效益。同时，由于CPU是目前...
目前,在所有运行 AI 推理工作负载的已装机数据中心处理单元中,英特尔®至强®可扩展处理器的占比高达 65%;因此,为新的 AI 部署选择内置英特尔®AMX 的第四代和第五代英特尔®至强®可扩展处理器,是一种既高效又具有成本效益的 AI 工作负载加速方式4。 选择内置加速器的理由 目前,采用内置英特尔®深度学...
面对越来越多传统AI应用和大模型在CPU上的落地优化,“用CPU加速AI”这条道路被不断验证。这就是在数据中心中,有70%的推理运行在英特尔® 至强® 可扩展处理器上的原因。最近,英特尔的服务器CPU完成了又一次进化。12月15日,第五代英特尔® 至强® 可扩展处理器正式发布。英特尔表示,一款为AI加速而生,而且...
今天,Wittich 正在做一个更大的披露,因为 Ampere Computing 公布了计划,计划将一款采用自主研发 Arm 内核的 Arm 服务器 CPU、自主研发的网状互连以及现在自主研发的集成 AI 加速器投入到该领域,该加速器被称为“Aurora”,可能会在 2025 年底或 2026 年初问世。
具体看第五代至强,其内置的英特尔AVX-512及英特尔® AMX(英特尔®高级矩阵扩展)功能是关键,这两个加速器在第四代至强中就已搭载,而在第五代至强中,AMX支持新的FP16指令,同时混合AI工作负载性能提高2～3倍。 加之第五代至强本身性能的提升,使其本身性能就能更从容应对AI负载:CPU核心数量增加到64个,单核性能...
2024年10月10日,AMD在加利福尼亚州旧金山的“推进人工智能(Advancing AI)”活动中正式发布了其新款数据中心CPU和AI加速器。此次发布的重点产品包括代号为“Turin”的第五代Epyc数据中心CPU及Instinct MI325X AI GPU加速器。这标志着AMD在人工智能和数据中心领域再次向行业巨头英伟达发起挑战。
在AI加速器快速发展的时代，通用CPU并没有获得太多关注。“如果你看看一代又一代的CPU，会发现它们的改进都是渐进式的，”位于芬兰的Flow Computing首席执行官兼联合创办人提莫·瓦尔托宁（Timo Valtonen）表示。瓦尔托宁的目标是将CPU重新放回它应有的“中央”角色。为了达到这个目标，他和他的团队提出了一个新的...
MI300A 被苏姿丰称作“面向 AI 和高性能计算的全球首款 APU 加速器”,将多个 CPU、GPU 和高带宽内存封在一起,在 13 个 chiplets 上拥有 1460 亿颗晶体管。 MI300A 采用 5nm 和 6nm 制程、CDNA 3 GPU 架构,搭配 24 个 Zen 4 核心、128GB HBM3,相比 MI250 提供了 8 倍以上的性能和 5 倍以上的...