本文原文来自DataLearnerAI官方网站：
此前，马斯克在推特上宣布要开源旗下大模型公司开发的Grok-1大语言模型。一周后的现在，这个模型Grok-1正式宣布以Apache2.0开源协议开源，本文将针对Grok-1的技术部分进行介绍。
Grok-1简介Grok-1的表现Grok-1的推理资源要求Grok-1总结Grok-1简介Grok-1是马斯克旗下大模型企业xAI的首个大语言模型商业产品。但他们最早训练的大模型是Grok-0，Grok-0是一个330亿参数的规模较小的模型，它用了Llama2-70B一半的硬件资源就达到了Llama2-70B的水平。因此，xAI研发人员很有信心，继续开发了Grok-1。
Grok-1最早在2023年11月初公开，随后在X平台上使用。此次开源后，Grok-1成为了目前开源大模型中参数最高的一个（除去此前反响平平的1.6万亿的谷歌大模型）。而更重要的是，这也是一个混合专家架构的模型，类似Mixtral 8×7B MoE模型（参考：https://www.datalearner.com/ai-models/pretrained-models/Mistral-7B-MoE ）。具体来说，Grok-1模型参数如下：
Grok-1模型架构参数项
Grok-1模型参数结果
架构
混合专家模型
参数总数
3140亿
专家数
8个
每个专家参数数量
430亿
每次推理激活的参数数量
860亿
开源协议
Apache 2.0
词汇表数量
131072
上下文长度
25万字符
不过，需要注意的是，Grok-1的训练是在xAI团队自己搭建的平台上，基于JAX等先进的基础设施。本次开源的只有Grok-1的推理代码，不包含训练代码！
Grok-1的表现首先，根据11月份透露的数据，Grok-1模型在各项评测结果中表现不错，但并不算突出。其MMLU得分73分，应该说得分超过了GPT-3.5，但是不如Qwen-72B。而数学推理（GSM8K）方面表现更差，不如60亿参数规模的ChatGLM3-6B。要知道，Grok-1的模型总参数是3140亿，每次激活860亿，这个水平相比较而言应该说不令人满意。
上述数据是按照参数大小排序，可以看到这是目前开源中参数规模最高的大模型了。排第二的开源模型是阿里巴巴的720亿参数规模的Qwen-72B。具体数据参考：
Grok-1的推理资源要求从上面的分析可以看到，Grok-1是一个不错的模型，但是与同类相比劣势比较明显。主要就是在于它资源消耗更大，但是没有获得相应的收益。以它和Mixtral 8×7B MoE模型对比（二者都是混合专家模型）：
对比内容
Grok-1
Mixtral 8×7B MoE
总参数
3140亿
456亿
专家数量
8
8
每个专家参数
430亿
60亿
每次激活参数数量
860亿
120 亿
半精度模型运行最低显存
628GB
92GB
每次推理速度接近的模型参数
860亿参数模型
120亿参数模型
理解综合能力（MMLU）
73
71
数学推理能力（GSM8K）
62.9
74.4
从上述简单对比可以看到，Grok-1用了远比Mixtral 8×7B MoE模型更多的资源，结果就是MMLU评测略高，而数学推理还不如Mixtral 8×7B MoE。
Grok-1总结尽管Grok-1已经开源。但是也些关键信息并没有透露。首先，xAI宣称他们是基于一套高效的基础设施进行训练的。这套高效的基础设施架构并未透露。另外，就tokenizer来说，Grok-1包含了13万个tokens，远超Llama系列。而且tokenizer中出来特殊的”[PAD]”、”[BOS]”、”[EOS]”、”[UNK]”外，还有此前大家没见过的”<|controlX|>”token，这里的X是1-20，它的作用并不清楚。联想到Grok-1本身作为基础模型，有super prompt、新闻等特殊能力，这部分是不是可能会影响也不知道。原因就是Grok-1的训练代码没有公布。
关于Grok-1的SuperPrompt等能力介绍参考此前的内容：
不管怎么说，Grok-1里面还是有新的东西的。至少从主流开源模型的效果看，Grok-1虽然还可以，但不够惊艳。
