Grok这个AI模型,运行环境需要 8 个 GPU,每个 GPU 拥有 80GB 的显存,典型的选择是 A100 型号,单个 A100 的价格约为 12000 美元,而一台配备 4 个 A100 GPU 的 NVIDIA DGX Station 的起价在 120000 美元左右。跑起来需要硬件成本250~300万,8 * A100 (H100) + 256G内存 4 * A100 (H100) + 512G内存。
合作选项:搭载4个或8个GPU的NVIDIA HGX™ H100和搭载1至8个GPU的NVIDIA DGX™ H100。英伟达H100 GPU在性能上相比前代产品A100有显著提升,特别是在FP8格式下的算力提升了6倍。此外,H100也是首个支持PCIe 5.0的GPU。#电子产品分享 #好产品分享 #数码产品 #专业的事交给专业的人...