今天凌晨,马斯克旗下大模型公司xAI宣布正式开源 3140 亿参数的混合专家(MoE)模型「Grok-1」,以及该模型的权重和网络架构。 这也使得Grok-1成为当前参数量最大的开源大语言模型。 封面图根据 Grok 提示使用Midjourney生成的:神经网络的 3D 插图,具有透明节点和发光连接,以不同粗细和颜色的连接线展示不同的权重。 ...
连OpenAI的员工，都表示了自己对Grok的强烈兴趣。英伟达高级科学家Jim Fan表示，「有史以来最大的开源大模型，由世界级团队训练，通过磁力链Apache 2.0发布。314B参数，混合专家模型（8个专家2个是活跃的）。就连活跃参数规模（86B）都超过了最大的Llama模型。迫不及待地想看到基准测试结果，以及人们能用它构建出...
【环球时报报道 记者 樊巍】美国当地时间3月17日，马斯克旗下的人工智能初创公司xAI正式宣布开源大模型Grok-1，遵循Apache 2.0协议开放模型权重和架构。xAI官网显示，xAI已经将Grok-1的权重和架构在软件托管平台GitHub上开源。美国《纽约时报》17日的报道称，马斯克开源Grok背后的原始代码，这是世界上最富有的人之一升...
Grok-1是马斯克旗下的xAI公司开源的大语言模型，参数量达到了3140亿，远超OpenAI GPT-3.5的1750亿，是迄今为止参数量最大的开源大模型。Grok-1还是一个混合专家大模型，可以将不同领域的“专家”集中到一起，以此来提升效率。由于模型参数量庞大，运行Grok-1需要充足的GPU内存，最低配置要求约为630GB显存。 除...
钛媒体App获悉，北京时间3月18日早上，“硅谷钢铁侠”、亿万富翁马斯克旗下 AI 初创公司 xAI 宣布，其研发的大模型Grok-1正式对外开源开放，用户可直接通过磁链下载基本模型权重和网络架构信息。xAI表示，Grok-1 是一个由 xAI 2023 年 10 月使用基于 JAX 和 Rust 的自定义训练堆栈、从头开始训练的3140亿参数的...
在两周后的今天，马斯克做到了自己的承诺——开源自己的AI大模型，并让其成为全球最大开源AI大模型。这是对OpenAI的下了一封战书，开源争霸战要来，AI社区已经沸腾了！连OpenAI的员工，都表示了自己对Grok的强烈兴趣。相信日后双方之间还会擦出更多激情的火花。3 看完前面的开胃菜部分，正式进入主菜环节。Grok-1...
上周一，马斯克宣布：“本周将开源 Grok 大模型。”但是一直到周六都没动静，本以为马斯克又鸽了。结果周日，马斯克旗下的 AI 公司 xAI 就兑现承诺：“开源 Grok-1。”"我们正在发布我们的大型语言模型 Grok-1 的基础模型权重和网络架构，"xAI在一篇博客文章中宣布。"Grok-1是一个由xAI从头开始训练的 3140 亿...
北京时间3月18日凌晨，马斯克旗下大模型公司 xAI，在一篇博客文章中宣布：“我们正在发布我们大型语言模型Grok-1的基本模型权重和网络架构。Grok-1是由xAI从头开始训练的3140亿参数专家混合模型。”Grok-1 的模型细节包括如下：1、基础模型基于大量文本数据进行训练，没有针对任何具体任务进行微调；2、3140 亿参数的 ...
埃隆·马斯克旗下的xAI公司最近宣布，将开放其Grok-1大模型的源代码。Grok-1拥有3140亿参数，是目前开源模型中规模最大的之一，其开放对整个AI领域具有重大意义。该模型采用了Mixture-of-Experts（MoE）架构，能够根据输入数据的不同动态调整网络，提高处理效率和应对复杂任务的能力。Grok-1的开源，不仅展示了xAI团队...
【#马斯克开源Grok1大模型#:权重架构全开放,磁力下载】#马斯克Grok1成参数量最大开源大模型# 北京时间今天凌晨,马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家(MoE)模型「Grok-1」,以及该模型的权重和网络架构。这也使得Grok-1成为当前参数量最大的开源大语言模型。这个时候,马斯克当然不会忘了嘲讽...