月之暗面Kimi K2发布：1万亿参数MoE，SWE-bench 72.5%登顶开源编程王
月之暗面Kimi K2发布：1万亿参数MoE，SWE-bench 72.5%登顶开源编程王
2025年7月11日月之暗面发布Kimi K2，1T参数MoE架构激活32B，SWE-bench Verified达72.5%创开源SOTA，MuonClip优化器15.5T token训练零崩溃，Apache 2.0开源。
2025 年 7 月 11 日，月之暗面正式发布 Kimi K2 大模型，采用 MoE 混合专家架构，总参数量达 1 万亿，激活参数仅 32B，在编程能力上登顶开源模型阵营。
规格参数
- 总参数：1T（1 万亿）
- 激活参数：32B
- 上下文窗口：128K token
- 架构：MoE 混合专家
- 开源协议：Apache 2.0
编程能力登顶开源
Kimi K2 在 SWE-bench Verified 基准测试中取得 72.5% 的成绩，创下开源模型 SOTA（最佳性能）纪录：
- 超越 DeepSeek-V3、Llama 4 Maverick
- 接近 Claude Opus 4 的编程能力
- 在代理式编程（Agentic Coding）任务中表现卓越
- 支持复杂代码库理解和多文件重构
MuonClip 优化器：训练零崩溃
Kimi K2 最大的技术创新是采用 MuonClip 优化器：
- 训练数据量：15.5T tokens
- 训练过程零崩溃，业界罕见
- 解决了大模型训练中的梯度爆炸问题
- 突破了万亿参数模型的训练稳定性瓶颈
性能对比
| 基准 | Kimi K2 | 对比 |
|---|---|---|
| SWE-bench Verified | 72.5% | 开源 SOTA |
| LiveCodeBench | 优异 | 超越多数开源 |
| MMLU | 顶尖 | 与闭源模型竞争 |
长上下文能力
- 128K token 上下文窗口
- 支持长文档分析、大规模代码库理解
- 多轮对话保持上下文一致性
开源策略
- Apache 2.0 完全开源
- 允许免费商用
- Hugging Face、魔搭社区开放下载
- 支持本地部署和二次开发
月之暗面公司背景
月之暗面（Moonshot AI）是国内 AI 初创公司：
- 以长上下文能力著称
- Kimi 智能助手国内用户基础扎实
- 专注通用人工智能（AGI）研究
- 2025 年成为国产大模型「第二梯队」代表
行业影响
Kimi K2 的发布标志着国产开源模型在编程领域实现新突破：
- 万亿参数模型训练稳定性问题被攻克
- 开源模型编程能力逼近闭源顶级模型
- MoE 架构在超大模型上的应用更加成熟
- 为中小企业提供低成本顶级 AI 能力