最早是 AMD 意识到 DDR 的局限性并产生开发堆叠内存的想法，其后与 SK 海力士联手研发了 HBM，并在其 Fury 显卡采用全球首款 HBM。据 ISSCC 2023 国际固态电路大会上的 消息，AMD 考虑在 Instinct 系列加速卡已经整合封装 HBM 高带宽内存的基础上，在后者之上继 续堆叠 DRAM 内存，在一些关键算法内核可以直接在...
在ISSCC 2021上，三星发布了一款高带宽内存处理器（HBM-PIM，high-bandwidth memory, processing-in-memory），这是业界首款内嵌AI芯片的高带宽内存，可用于加速数据中心、高性能计算应用、人工智能应用。三星指出，当他们用现有的HBM2 Aquabolt系统测试新技术时，发现系统性能翻了一番、能源消耗降低了70%。目前，三星...
据 ISSCC 2023 国际固态电路大会上的 消息,AMD 考虑在 Instinct 系列加速卡已经整合封装 HBM 高带宽内存的基础上,在后者之上继 续堆叠 DRAM 内存,在一些关键算法内核可以直接在整合内存内执行,而不必在 CPU 和独立内 存之间往复进行通信传输,从而提升 AI 处理的性能,并降低功耗。 英伟达同样重视处理器与内存间的...
采用这种技术的一个例子是AMD(@AMD)发布的Instinct MI100 GPU计算加速卡,其便搭载了三星的HBM-PIM存储器。 在大规模AI和HPC(高性能计算)应用中采用三星的HBM-PIM技术,有望将GPU加速器的性能提高一倍,同时还可降低能耗。 AMD在2月份的ISSCC 2023大会上谈到了该技术,并表示:“从系统的角度来...
近期ISSCC、Hot Chips等发布的论文中,有关于monolithic 3D DRAM的尝试,报告在试验芯片上实现了逻辑与DRAM层的直接键合,并验证了基本存取功能 semiengineering.com。还有对HBM2实际芯片的可靠性和变异性研究,探讨HBM在高温、高压下的错误率,以及TSV应力对电路的影响arxiv.org。在架构方向,顶会论文展示了HBM加持...
在此前，行业内性能最强运用最广泛的是 HBM 和 HBM2 内存技术，而这次的 HBM-PIM 则是在 HBM 芯片上集成了 AI 处理器的功能，这也是业界第一个高带宽内存（HBM）集成人工智能（AI）处理能力的芯片。三星关于 HBM-PIM 的论文被选为在 2 月 22 日举行的著名的国际固态电路虚拟会议（ISSCC）上发表。三星的 ...
新型HBM-PIM（Processing-in-memory，存内计算）芯片将AI引擎引入每个存储库，从而将处理操作转移到HBM。新型的内存旨在减轻在内存和处理器之间搬运数据的负担，数据的搬运耗费的功耗远大于计算。三星表示，将其应用于现有的HBM2 Aquabolt内存后，该技术可以提供2倍的系统性能，同时将能耗降低70%以上。该公司还声称，新...
过去一段时间里，三星明显加快了HBM4的开发步伐，比原计划提前了大约半年，以便争取英伟达这类关键客户的订单，预计将用于下一代Rubin架构GPU，预计2026年上市。除了英伟达外，三星还将目光投向了微软和Meta的新一代定制芯片。此前三星在ISSCC 2024上分享了一些技术细节，显示HBM4将提供巨大的性能提升，数据传输速率高达...
三星关于 HBM-PIM 的论文被选为在 2 月 22 日举行的著名的国际固态电路虚拟会议(ISSCC)上发表。三星的 HBM-PIM 目前正在人工智能加速器内由领先的 AI 解决方案合作伙伴进行测试,所有验证预计将在今年上半年完成。 IT之家了解到,电子计算机多年来都是走诺伊曼架构体系,而这项三星 HBM-PIM 技术不同。
据 ISSCC 2023 国际固态电路大会上的 消息,AMD 考虑在 Instinct 系列加速卡已经整合封装 HBM 高带宽内存的基础上,在后者之上继 续堆叠 DRAM 内存,在一些关键算法内核可以直接在整合内存内执行,而不必在 CPU 和独立内 存之间往复进行通信传输,从而提升 AI 处理的性能,并降低功耗。