(https://sambanova.ai/blog/sn40l-chip-best-inference-solution)更进一步说，RDU 所带来推理速度提升的意义不只是体现在效率上，更能体现在质量上，也体现对 AGI 探索的加速上。基于 OpenAI o1 带来的推理 Scaling Law 的启发，人们意识到，在推理端，更多的算力同样会带来更强的智能。因为在同一时间单位内，...
Sambanova 的三位创始人分别是芯片和 AI/ML 领域的传奇人物,在软硬件技术路径上有着极强的前瞻性获得成功:CEO Rodrigo Liang 曾是 Sun Microsystems(太阳微电子)芯片部门的资深负责人 ,创始人之一的 Kunle Olukotun 则是多核处理器奠基人 ,另外一位创始人则是积极活跃在各大 ML/AI/LLM 社区的意见领袖以及连续...
AI hardware and software vendor SambaNova Systems has a new AI chip: the SN40L. Introduced on Tuesday, SN40L will power SambaNova's full-stack large language model platform, theSambaNova Suite, which the vendor introduced in March. SN40L was manufactured by Taiwan Semiconductor Manufacturing Com...
Discover how SambaNova's Dataflow architecture is redefining high-performance AI chips, offering unmatched speed and efficiency for enterprise applications.
例如,想在 Llama 70B 上推理,对于有些 AI 芯片来说需要五百多个芯片,或者相当于三百多个芯片的 4 个 wafer ,而 SambaNova 只需要 拥有 16 个芯片的 1 个机架。(https://sambanova.ai/blog/sn40l-chip-best-inference-solution) 更进一步说,RDU 所带来推理速度提升的意义不只是体现在效率上,更能体现在质量上...
全球2000强的企业只需购买两个这样的8芯片集群，就能满足所有大模型需求。参考链接：[1]https://spectrum.ieee.org/ai-chip-sambanova[2]https://www.nextplatform.com/2023/09/20/sambanova-tackles-generative-ai-with-new-chip-and-new-approach/[3]https://sambanova.ai/resources/ ...
例如,想在 Llama 70B 上推理,对于有些 AI 芯片来说需要五百多个芯片,或者相当于三百多个芯片的 4 个 wafer ,而 SambaNova 只需要 拥有 16 个芯片的 1 个机架。(https://sambanova.ai/blog/sn40l-chip-best-inference-solution) 更进一步说,RDU 所带来推理速度提升的意义不只是体现在效率上,更能体现在质量...
现在的 AI 芯片有各种流派：ASIC、FPGA、DSP、Neuromorphic Chip，以及大量 DSA （Domain-specific ...
现在的 AI 芯片有各种流派:ASIC、FPGA、DSP、Neuromorphic Chip,以及大量 DSA (Domain-specific architectures)芯片。其中,以 SambaNova RDU(Reconfigurable Dataflow Unit)为代表的动态可重构数据流(Dataflow)架构的芯片,能够通过并行处理和高效数据移动来优化性能和效率,近年越来越被认为是一个重要的发展方向。
例如,想在 Llama 70B 上推理,对于有些 AI 芯片来说需要五百多个芯片,或者相当于三百多个芯片的 4 个 wafer ,而 SambaNova 只需要 拥有 16 个芯片的 1 个机架。(https://sambanova.ai/blog/sn40l-chip-best-inference-solution) 更进一步说,RDU 所带来推理速度提升的意义不只是体现在效率上,更能体现在质量...