正是这种流线型架构和智能编译器的结合,使Groq与众不同。 关键的洞察是,许多AI芯片堆叠了组件,如GPU,这带来了额外的硬件和膨胀。Groq回归基本原理,认识到机器学习工作负载关乎在简单数据类型和操作上的大规模并行性。通过消除通用硬件甚至是局部性等概念,设计最大化了吞吐量和效率。 这是通过Groq的编译器实现的,该...