大模型/GitHub

Strata本地大模型推理引擎源码，三层存储调度让普通游戏电脑跑起千亿参数模型，附部署说明。

Naive-N0.5-Flash 是一套开源的 309B MoE 大模型源码，由 NaiveAI 团队开发。模型拥有 309B 总参数和 15.5B 活跃参数，专为编程和 AI 研发任务设计。原生 1M token 上下文窗口，推理速度最高 2000 tokens/s。

StartLux-Decision是一套开源的类型化决策模型源码，27B模型以63.88分Decision Index超越Jev 1.13的57.91分。

Audio8-TTS-Preview-0.6B 是仅0.6B参数的开源TTS小模型，CPU即可运行高质量文本转语音，支持零样本音色克隆与11种语言，性能媲美大模型，适合小说朗读、文案配音等场景。

MiniCPM-V Apps 部署教程，把多模态模型跑进手机。

MiniCPM-V 使用指南，把多模态模型装进手机端。

OpenClaw-RL 教程，通过对话训练越用越顺手的个性化智能体。

Halo 是 White Circle 开源的大模型训练框架源码, HF 模型直接多卡训练, 吞吐 2.8 倍 TRL, 支持 MoE 并行与异步 RL。

腾讯云开源的 Octop 自托管多智能体 AI 助手平台，单进程整合 Web 控制台、CLI、IM 渠道与定时任务，MIT 协议。

多语言非自回归决策引擎，单次前向 33 毫秒返回带置信度的类型化决策，Apache-2.0 开源。

面向端侧智能体场景的 Spark-X2.5 开源模型系列发布仓库，4B 与 1.7B 双规格。

Xiaomi-CocktailASR-1 是小米开源的目标说话人语音识别大模型，多说话人场景 SOTA，仅需一个模型兼顾单人与多人会议转写，支持负样本拒识与思维链可解释推理。

jcode 是 Rust 编写的高内存效率编程智能体终端，一个终端接入 Claude、OpenAI、Gemini 等多家模型，并行会话内存占用远低于同类。

Agnes 2.5 Pro Alpha 是 Agnes AI 开源的多模态推理大模型，基于 Qwen3.5-397B 后训练，支持百万 token 上下文、图像理解与工具调用。

oMLX是一套专为Apple Silicon芯片优化的LLM推理服务器源码，支持连续批处理和SSD缓存，提供OpenAI兼容API。

Unsloth是一套开源的本地大模型训练和运行系统源码，支持LLM和扩散模型的微调训练，提供可视化Web Studio界面。

Needle是一套14MB的微型基础模型源码，专为手机、可穿戴设备、智能家居和机器人等小型设备设计，支持设备端AI推理。

ModLens 为纯文本大模型补视觉的识别插件，粘贴图片返回结构化 JSON 证据，dsh 原生插件，支持多 provider 失败切换链与免费 Antigravity CLI。

AirLLM 是一套 Python 大模型推理优化源码，单卡 4GB 显存即可跑 70B 模型，原生权重不量化，支持 Qwen、DeepSeek、Llama 等主流开源模型。

dots3-note多模态大模型开源评测文档，涵盖MoE架构、512K长上下文、多模态理解评测与Transformers、SGLang、vLLM部署教程。

Kimi K3 in C 是一套纯 C99 写成的 2.78 万亿参数大模型本地推理源码，零依赖、无 GPU，靠 MXFP4 量化与 MoE 稀疏激活在单颗 CPU 上跑起千亿级模型，适合学习与边缘部署。

NVIDIA Alpamayo 2 Super 34B 多任务自动驾驶基础模型开源推理源码，Python+PyTorch，Apache-2.0。

腾讯混元 Hunyuan3D-WorldClaw 开源3D世界生成项目展示页前端源码，Vite+React 静态站点模板。

Shieldstral-1.0-3B Mistral 开源安全分类器源码，3B 参数，支持文本图像多模态内容审核。