07-17
Kimi K3 发布:2.8T参数开源模型,聚焦长周期编程与知识密集型工作
月之暗面发布了 Kimi K3,一个 2.8T 参数的开源模型,采用 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 架构,激活 896 个专家中的 16 个,扩展效率较 K2 提升约 2.5 倍。Kimi K3 支持原生视觉和 100 万 token 上下文窗口,在编程、知识工作、推理等基准上与 Claude Fable 5 和 GPT 5.6 Sol 竞争,虽整体仍稍逊,但在多个内部评测中表现突出。文章详细展示了其在 GPU 内核优化、编译器开发(MiniTriton)、3D 游戏开发、芯片设计(48 小时自主设计芯片)、科研复现(2 小时完成通常 1-2 周的工作)等场景的案例。Kimi K3 即日起可通过 Kimi.com、Kimi Work、Kimi Code 和 API 使用,完整模型权重将于 7 月 27 日开源。适合 AI 系统工程师、模型开发者、以及需要长周期代理工作能力的研究人员。