分析一下,H100 最开始是在 NVIDIA GTC 2022 上发布的,刚发布时候的显存情况是 80 GB (这个大小相对于 A100 没有升级)、采用了 HBM3 (相对于 A100 进行了升级),相对于 A100,正是因为高速带宽由 HBM2e -> HBM3,所以显存带宽很自然也直接得到提升。而后让人 "大跌眼镜" 的是,就在 2023 年的一年中 H100 ...
英伟达 H200 是 H100 的升级产品,以下是两者的性能对比: 1. 显存容量和带宽:- 显存容量:H100 的显存有 80GB,而 H200 的显存提升到了 141GB,这使得 H200 能够处理更大规模的数据和更复杂的模型,减少了数据在处理过程中频繁读写显存的需求,提高了处理效率。- 显存带宽:H100 的显存带宽为 3.35TB/s,H200 的显...
因为禁令禁的并不是具体什么什么卡,不是说具体指明了就是要禁你 A100,还是要禁你 H100,而是提供了两个指标范围,在这个范围内的就要禁。对于具体的禁令指标解读可以参考我的这篇汇总篇《极智芯 | 解读美国芯片禁令及英伟达特供芯片系列》或者直接这篇《极智AI | 老美升级芯片禁令限制中的性能指标到底指什么》。
H100 的明显优势是在显存和显存带宽上 (其实 MI300X 在算力上也有优势,后面会专门写一篇对《极智芯 | 挑战英伟达霸权 解读AMD最强芯MI300X》中的算力对比分析进行修正,主要涉及稀疏算力和非稀疏算力),所以老黄今年反复多次的 H100 升级发布,其实主要都是在提升显存带宽和显存容量上面,其他指标基本完全没变 (其实...