转:高多层PCB或为GB200(Ultra) NVLink switch tray主要方案,台光电及其相关产业链充分受益,强烈建议关注东材科技,当前对今明年估值仅为17、12倍。 1、根据近期的产业链调研反馈,我们了解到英伟达在GB200(Ultra) NVLink switch tray上会有传输结构的变化,当前正在测试及考虑使用高多层PCB方案来替代原有HDI+铜线方案。
NVIDIA DGX GB200 NVL72 Switch Tray Internal(图源:servethehome) GB200 NVL72中一共包含了72颗Blackwell GPU芯片,18颗NVSwitch芯片,Nvidia用了5000根铜缆将所有的GPU都与所有的NVSwitch全部连接起来。因此,GPU和NVSwitch很有可能是构建一个一级Switch交换的全直连的NVLink网络,如下图所示,这样的组网拓扑和互连结构...
其次，一个Switch Tray则包含两颗NVLINK Switch芯片，累计提供72 * 2 = 144个NVLINK Port，单颗芯片...
GB200 NVLINK用Switch Tray board原本于6v7月时已确定采用六压HDI设计,惟供货商生产难度高(欣兴、胜宏),目前已针对设计做改动,预计10月会定案,就目前方案来看,采用HLC 高多层PCB机会较高,此有利HLC技术能力佳的现有NV供货商沪电股份(002463.SZ)、TTM(TTM.US),不利现有供货商欣兴(3037.TT)、胜(300476.SZ)...
一个计算卡,其实就是一个Tray(托架)。 而一张计算卡, 相当于一台服务器。 这样,每张计算卡里有4个GPU。 口算4 X 18=72, 相当于装了72个GPU。 网络也非常好, 72个GPU工作起来像一个。 这个东西再叫服务器,就不合适了, 那就叫超节点吧。 于是,新问题来了, 请问,这个超节点里面72个GPU用的什么网络连...
GB200 PCB更新20240902 GB200 NVLINK用Switch Tray board原本于6v7月时已确定采用六压HDI设计,惟供货商生产难度高(欣兴、胜宏),目前已针对设计做改动,预计10月会定案,就目前方案来看,采用HLC 高多层PCB机...
一层NV Switch上面还要再加一层NVSwitch。 NV Switch之间还需要互联, 占了一半端口。 也就是说, 不能所有的端口都连在GPU上, 留有端口连2级交换机, 所以,要空出来36个口, 让它们去连交换机。 复杂吧。 不过,花开两朵,各表一枝, 交换机多了,
NV Switch之间还需要互联, 占了一半端口。 也就是说, 不能所有的端口都连在GPU上, 留有端口连2级交换机, 所以,要空出来36个口, 让它们去连交换机。 复杂吧。 不过,花开两朵,各表一枝, 交换机多了, 客户要建更复杂的网络, 花更多的钱。 这里,用数学中的拓扑, ...
➢ 一个 Compute Tray 包含两个 GB200 Superchip,共计 4 颗 Blackwell GPU。 ➢ 一个 Switch Tray 包含两个 Nvlink Switch 芯片,总带宽达到 14.4TB/s,即 1.8TB/s*8。 计算Tray:由 2 个 GB200 超级芯片组成 具体来看,一个 GB200 超级芯片包含一颗 Grace 72 核的 ARM CPU 和 2 颗BlackwellGPU。
这个问题成了关键。而且，还有人误会网络不重要，我得知：一家国产知名大模型厂商，就不说哪家了，买了英伟达一万张卡，配的PCIe接口。送命不至于，就是吃亏。我判断：2024年全球头部GPU技术路标：用超节点连起的10万卡GPU集群。那么问题来了，卡之间的连接，用什么网？我还判断：英伟达超节点（NVL72）引领下一轮...