近日，英伟达创始人兼CEO黄仁勋回到了母校美国斯坦福大学，在斯坦福商学院SIEPR经济峰会上黄仁勋表示，英伟达的GPU非常好，即使是AMD等竞争对手的AI芯片是免费的，但它也不够便宜，也是无法击败英伟达。黄仁勋进一步解释说，就AI数据中心的总拥有成本(TCO)而言，英伟达GPU的定价并不重要，我们的TCO要比竞争对手好很多。SIEPR...
从TCO角度看英伟达的商业逻辑 英伟达的黄仁勋以90%的毛利率销售芯片,还强调“买更多,省更多”,声称提供最低的TCO(总拥有成本)。这让人无法反驳,因为他说的是事实。稍微调研一下,看看其他友商的互联算力损耗有多大,bug有多频繁,生态支持有多差,就能明白为什么英伟达的TCO是最低的。在任务方面,无论是训练还是推理,...
对于那些一向精于优化从处理器到网络设备，甚至到螺丝和钣金等各个环节成本的超算中心数千人研发团队来说，为其带去了极大的困扰。另外，亚马逊的案例最具代表性。他们选择了一个次优配置，导致总拥有成本（TCO）超过了参考设计。由于使用PCIe交换机和需要风冷的低效200G弹性网络适配器，亚马逊无法像Meta、谷歌、微软、...
因此，对于推动初创企业和企业部署的最有用的开源模型的微调和推理，单个 HGX 服务器的性能/TCO 会更差。我们对 MGX B200A Ultra NVL36 的估计价格表明 HGX B200A 不太可能畅销。Nvidia 有多种强大的动机来稍微降低利润率以推动 MGX，因为他们用自己的网络更高的附加率来弥补这一点。MGX GB200A Ultra NVL36 ...
近日,英伟达创始人兼CEO黄仁勋回到了母校美国斯坦福大学,在斯坦福商学院SIEPR经济峰会上黄仁勋表示,英伟达的GPU非常好,即使是AMD等竞争对手的AI芯片是免费的,但它也不够便宜,也是无法击败英伟达。黄仁勋进一步解释说,就AI数据中心的总拥有成本(TCO)而言,英伟达GPU的定价并不重要,我们的TCO要比竞争对手好很多。
免费“还不够便宜”，无法在AI领域与“绿色团队”抗衡。最近，英伟达首席执行官黄仁勋（Jensen Huang）声称：“英伟达的GPU太好了，即使竞争对手的芯片是免费的，也不够便宜，就人工智能（AI）数据中心的总拥有成本（TCO）而言，英伟达GPU的定价并不重要。”英伟达在推动蓬勃发展的人工智能行业方面取得的成就令人印象深刻...
总地来说,英伟达的总运营成本(TCO)非常好,即使竞争对手的芯片是免费的,最终算下来它也不够便宜,英伟达的目标是增加更多价值,以至于替代品不仅仅是关于成本的问题。 作为英伟达实际掌控人的他,首先对目前的ASIC芯片表达出了不屑,而后他表示,只要有需要,英伟达随时可以利用已有的IP和技术积累,为客户打造出更好的定制...
花旗分析团队在最新研报中表示，英伟达在AI基础设施领域的服务器GPU、NVIDIA整机服务器等硬件体系在总体拥有成本(TCO)和投资回报率(ROI)方面的绝对领先地位被强调为数据中心运营商的核心重视因素，他们重视在英伟达的硬件以及CUDA协同加速软件平台上运行各种应用程序(包括AI训练/推理应用程序)的更高级别效能。花旗表示，随着...
”Sid Sheth继续介绍了d-Matrix在市场定位上的独特性：“生成式AI将永远改变人们和公司创造、工作和与技术互动的范式。但是当前运行AI推理的总体拥有成本 (TCO) 正在迅速上升，d-Matrix团队正在通过为大语言模型专门打造的计算解决方案，改变部署AI推理的成本经济学，而这轮融资进一步证实了我们在该行业中的地位。”微...