Kimi-K3 模型概览
文章正文
Kimi-K3 是 Moonshot AI 推出的新一代原生多模态智能体大模型，以 2.8T 总参数的混合专家架构和百万 token 上下文能力，成为当前开放权重领域参数规模最大的模型之一。
它在同一套模型内原生理解文本、图像与视频，并具备长程编码与端到端智能体工作能力，适合需要深度推理与多工具调用的复杂任务。
本文从模型定位、技术架构、本地部署到 API 调用，系统梳理 Kimi-K3 的关键信息，帮助开发者快速评估并落地这套开放权重方案。
模型简介
Kimi-K3 是一个 2.8T 参数的开放权重模型，采用混合专家（MoE）结构，每个 token 激活约 104B 参数（从 896 个专家中选中 16 个，并叠加 2 个共享专家）。
其原生多模态能力由 401M 参数的 MoonViT-V2 视觉编码器提供，可同时处理文本、图片与视频输入，无需外接独立的视觉模块。
模型以 Kimi K3 License 发布，权重与配套部署配方均开放获取，但并非宽松开源许可，商业使用需仔细阅读许可证条款。
适用场景
长程编码是 Kimi-K3 的突出能力，可自主完成 GPU 内核优化、编译器开发以及游戏逻辑编写等需要持续多步推理的工程任务。
在智能体知识工作方面，它支持端到端的深度研究、可视化报表生成与视频编辑，适合作为研究助理与自动化工作流的核心引擎。
凭借百万 token 上下文，Kimi-K3 能够处理超长文档、代码库与多轮对话历史，适用于法律、金融与科研等需要长程记忆的场景。
核心亮点
它是全球首个开放权重的 3T 级（2.8T）模型，把原本集中在闭源旗舰模型上的能力带到了可自部署的开源生态。
架构上引入 Kimi Delta Attention（KDA）与 Attention Residuals（AttnRes），相比上一代 Kimi K2 的扩展效率提升约 2.5 倍。
原生 MXFP4 量化感知训练让模型在大幅降低显存占用的同时尽量保留精度，配合社区提供的 11 个量化版本更易落地。
技术架构与本地部署指南
技术架构与参数
Kimi-K3 总计 93 层，由 69 层 KDA、24 层 Gated MLA 与 1 层 Dense 组成，整体基于 Stable LatentMoE 框架运行。
注意力部分采用量化感知训练，权重使用 MXFP4、激活使用 MXFP8，在保持推理质量的前提下显著降低部署成本。
上下文长度达到 1,048,576 tokens（约 100 万 token），支持超长输入与跨文档推理，模型文件提供 F32、BF16 与 U8 多种张量类型。
本地部署方式
使用 vLLM 部署最为简便，执行 pip install vllm 后通过 vllm serve “moonshotai/Kimi-K3” 即可启动兼容 OpenAI 的推理服务。
SGLang 同样提供官方配方，安装 sglang 后启动服务器或直接使用 lmsysorg/sglang:latest 镜像即可加载模型。
若使用 Docker 环境，可直接运行 docker model run hf.co/moonshotai/Kimi-K3，由 Docker Model Runner 完成拉取与推理托管。
API 调用示例
官方平台 platform.kimi.ai 提供 kimi-k3 模型，并兼容 OpenAI 与 Anthropic 接口，可通过 openai 客户端发起多轮对话。
调用时需保留返回中的 reasoning_content 字段，因为 Kimi-K3 的思维链始终开启，便于观察与审计推理过程。
思考强度由 reasoning_effort 字段控制，可选 low、high 或 max，默认值为 max，评测时通常固定 temperature 为 1.0。
下载与获取说明
模型权重、配置文件与部署配方均发布在 HuggingFace 仓库 moonshotai/Kimi-K3，用户可在该页面直接获取完整权重与量化版本。
由于 2.8T 全精度权重体量极大，实际部署建议优先选用社区提供的量化版本或只加载推理所需的张量类型。
本页所述资源均为外部公开仓库内容，请前往 HuggingFace 按 Kimi K3 License 的条款合规获取与使用。
| 维度 | 本套源码 | 同类通用方案 |
|---|---|---|
| 技术栈 | 见正文技术栈 | 依具体方案选型，需自行搭建与维护 |
| 部署方式 | 见正文部署提示 | 多托管于第三方平台或订阅云服务 |
| 功能侧重 | 见正文功能亮点 | 功能通用，定制深度有限 |
| 数据归属 | 数据自持，部署在自有服务器，不出站 | 数据通常留存于服务商侧 |
| 成本模式 | 获取后自主部署，无持续授权费用 | 通常按订阅或调用量计费 |
常见问题
问：Kimi-K3 是开源模型吗？
它属于开放权重（open-weight）模型，采用 Kimi K3 License 发布，权重可获取但许可证并非宽松开源协议，商业用途需自行确认授权。
问：本地部署最少需要什么环境？
推荐使用 vLLM 或 SGLang 推理引擎，并配合量化版本以降低显存需求；具体显存规模取决于所选张量类型与量化等级。
问：是否支持图像和视频输入？
支持，Kimi-K3 为原生多模态模型，内置 MoonViT-V2 视觉编码器，可在同一模型中理解文本、图片与视频。
许可证与合规提示
特别提示：Kimi-K3 以 Kimi K3 License 发布，使用该模型前请务必阅读许可证全文，确认训练、微调与商业部署是否符合授权范围。
模型权重与衍生量化版本均来自 HuggingFace 公开仓库，本站仅作技术介绍，不对权重本身的合规性与可用性作保证。
下载与部署过程中产生的算力、存储与网络成本由使用者自行承担，请结合本地硬件条件合理选择版本。
