2024 年3月17日，Grok-1 的公开发布，我们正在发布 3140 亿个参数的专家混合模型 Grok-1 的权重和架构。

关于xAI
xAI 是一家致力于构建人工智能以加速人类科学发现的新公司。我们的使命是增进我们对宇宙的集体理解。

技术团队
我们的团队由特斯拉和SpaceX首席执行官埃隆·马斯克 (Elon Musk) 领导。我们之前曾在DeepMind、OpenAI、Google Research、Microsoft Research、Tesla和多伦多大学工作过。我们共同贡献了该领域一些最广泛使用的方法，特别是 Adam 优化器、 批量归一化、 层归一化和对抗性示例的发现。我们进一步介绍了创新技术和分析，例如 Transformer-XL、 Autoformalization、Memorizing Transformer、 Batch Size Scaling、 μTransfer和SimCLR。我们致力于并领导该领域一些最大突破的开发，包括AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5和GPT-4。