Grok-1的开源,不仅展示了xAI团队对技术创新的承诺,也体现了马斯克对于加速AI技术发展和知识共享的长远考量。Grok-1采用的Apache 2.0许可证,允许全球研究人员、开发者和企业自由地访问、使用、修改和分发这一模型,极大地促进了AI技术的研究和应用。xAI公司的开源行动背后,是马斯克对于技术革命的深刻理解和坚定支持。
自2023年10月以来,xAI开始在自定义的训练堆栈上,基于JAX库与Rust语言,从零开始对Grok-1进行训练。尽管目前尚未公布具体的测试成绩,Grok-1的性能和应用潜力已引发业界广泛关注。此次开源,遵循Apache 2.0许可证,意味着无论个人还是商业用户均可自由使用、修改和分发Grok-1,这一开放性将进一步推动模型的创新和应...
( Grok是目前开源大模型中参数规模最大的语言模型) 距离Elon Musk 发布的开源 Grok-1 语言模型才约7个小时的时间,Github 就收到了 5.5k star,足见大家对大模型的关注热度。这次开源发布,是Elon Musk对人工智能协作和透明开发的坚定承诺的具体体现。他不仅在商业航天领域推动了创新,现在又在AI领域引领了开放的潮流...
Grok-1模型的开源,意味着AI研究者和开发者可以自由地访问和使用这一模型。Grok-1采用了混合专家(MoE)架构,包含8个专家,总参数量为3140亿,处理Token时,其中的两个专家会被激活,激活参数量为86亿。这种结构的选择,使得Grok-1在处理大规模数据时更加高效。Grok-1的Transformer层数达到64层,其大小和复杂性都...
所谓开源,就是指的是开放代码供所有人查看和使用。xAI公司资料介绍,Grok-1是一个由xAI从头开始训练拥有3140亿参数的混合专业模型。目前开源的是其2023年10月的原始基础模态。这也意味着这个模型目前还没有针对任何应用开发,甚至包括对话应用。“我们将根据Apache2.0许可证发布这些权重和架构。”xAI公司介绍说。“...
Grok-1的发布也被美国媒体认为是马斯克与ChatGPT的研发公司OpenAI之间的最新一次交锋。此前,马斯克对OpenAI、奥特曼提起诉讼,称该公司违背了最初对公共开源通用人工智能的承诺。刘伟表示,可以预见的是,xAI会对openAI产生非常大的冲击,因为xAI采用的是开源的路径。对于这当中涉及的“开源和闭源”之争。刘伟介绍称,...
正在播放[东方时空]马斯克旗下人工智能大模型Grok宣布开源 Grok-1开源对未来的影响是什么? 本期内容 [东方时空]习近平主持召开新时代推动中部地区崛起座谈会强调 在更高起点上扎实推动中部地区崛起 00:10:25 [东方时空]时空观察 鹊桥二号成功发射 如何架起深空通信网? 00:12:14 [东方时空]鹊桥二号成功发射 如何...
社交网络上,不少人支持大模型开源,开源之后,意味着它允许用户自由地使用、修改和分发软件,无论是个人还是商业用途。许多人认为,这种开放性鼓励了更广泛的研究和应用开发。迭代更快速 可回答尖锐问题 按照xAI此前介绍,Grok-1将作为Grok背后的引擎,用于自然语言处理任务,包括问答、信息检索、创意写作和编码辅助。
这一举措意味着Grok-1,这一全球参数量最大的开源大语言模型,将助力全球AI技术的发展,推动科技创新的...
在 X 平台上,Grok-1 的开源已经引发了不少讨论。值得注意的是,技术社区指出,该模型在前馈层中使用了 GeGLU,并采用了有趣的 sandwich norm 技术进行归一化。甚至 OpenAI 的员工也发帖表示对该模型很感兴趣。不过,开源版 Grok 目前还有些事情做不到,比如「通过 X 平台实时了解世界」,实现这一功能目前仍...