源码系统概览
文章正文
LLM是一款开源的系统源码，github.com上有12403颗星标。LLM 是由 Simon Willison 开发的命令行与 Python 库二合一工具，用于通过统一接口访问多家大语言模型。用户可通过终端一键调用 OpenAI、Anthropic Claude、Google Gemini、Qwen、DeepSeek 等远程 API，也可连接本机自托管模型。项目仅含 32 个文件，以轻量著称，GitHub 已获 12403 星。工具设计哲学为最小化依赖与命令行优先，适合脚本化批处理和将模型调用嵌入自动化流水线。
源码简介
LLM 的核心价值在于用一套命令统一管理多家模型供应商。
源码仓库以 llm 目录为主体，另含 .readthedocs.yaml 文档配置、AGENTS.md 智能体说明文件、Justfile 构建脚本及 LICENSE 许可证文件。
核心能力包括命令行多轮对话、提示与回复自动写入 SQLite 数据库、生成与存储 embeddings 向量、按 JSON schema 抽取结构化输出，以及为模型挂载可执行 tools 工具函数。
通过插件机制可扩展连接 LM Studio 等本地 OpenAI 兼容端点。
所有提示词与回复记录可离线检索与审计，便于回溯调试。
许可证 Apache-2.0，适合脚本化批处理与将模型调用嵌入 Python 流水线。
适用场景
终端日常 AI 问答与多轮对话、批量脚本中自动化模型调用、生成 embeddings 并存入 SQLite 做语义搜索、CI 与 CD 流水线中的文本分类与摘要、开发阶段快速对比多家模型输出质量、数据Pipeline 中自动化内容摘要与分类、自动化测试中的智能用例生成、知识库构建中的批量向量化处理。
技术栈与运行环境
核心语言 Python 3.9 以上，数据存储 SQLite，依赖最小化设计。
版本号 v0.23.2，许可证 Apache-2.0，GitHub 星标 12403。
对比同类工具如 LangChain CLI，LLM 更轻量且专注于命令行交互，无需引入庞大依赖树。
可通过 pip 或 Homebrew 一键安装，跨平台支持 Linux、macOS 与 WSL 环境。
功能亮点
- 统一命令行接口调用 OpenAI、Claude、Gemini、Qwen、DeepSeek 等模型
- 提示词与回复自动持久化到 SQLite 数据库
- 支持 embeddings 生成与存储，便于语义检索
- 按 JSON schema 提取结构化输出
- 插件机制扩展本地模型端点
- 轻量级设计，仅 32 个文件，零冗余依赖
技术架构与部署指南
安装与部署提示
最后更新 2026 年 8 月。
更新日志显示 v0.23.2 增强了结构化输出与 tools 函数支持，新增了对 DeepSeek 和 Qwen 模型的默认适配。
安装方式：通过 pip install llm 一键安装，或使用 brew install llm（macOS）。
首次使用需通过 llm keys set openai 等命令配置各供应商的 API 密钥，密钥存储在用户目录下的配置文件中。
截图与演示说明
封面图展示了 LLM 命令行的典型使用场景，包括一键提问、多轮对话和结构化输出。
图中演示了通过统一命令调用不同模型供应商的过程，体现了工具的简洁性与跨平台兼容能力，底部可见 SQLite 日志记录的交互界面布局。
同类工具对比
以下是LLM与其他LLM命令行工具的主要区别和对比：
| 项目 | 类型 | 许可证 | 主要特点 |
|---|---|---|---|
| LLM | 开源 | Apache-2.0 | LLM命令行，社区活跃 |
| Ollama | 同类 | 各异 | 功能相似 |
| LiteLLM | 同类 | 各异 | 侧重不同 |
| OpenWebUI | 同类 | 各异 | 各有优势 |
LLM和Ollama的区别在于部署方式不同，LLM和LiteLLM对比各有侧重，LLM可作为OpenWebUI的替代方案。
常见问题
问：LLM 支持哪些模型供应商？
默认支持 OpenAI、Anthropic Claude、Google Gemini、Azure OpenAI 等，还可通过插件连接 DeepSeek、Qwen、Mistral 及本地 LM Studio 端点。
问：提示词历史保存在哪里？
所有对话与提示词自动写入本地 SQLite 数据库，默认路径为用户目录下的 llm 数据库文件，可通过 llm logs 命令查询历史记录。
问：是否可以生成 embeddings 做语义搜索？
可以。
LLM 支持 embeddings 生成与存储，可将文本向量存入 SQLite 并通过 llm similar 命令进行相似度检索。
问：如何连接本地自托管模型？
通过插件配置 OpenAI 兼容端点（如 LM Studio 的 http://localhost:1234），使用 llm -m 命令指定本地模型名称即可调用。
安全风险提示
API 密钥存储在本地配置文件中，需确保文件权限仅限当前用户访问。
切勿将密钥提交到版本控制系统，建议使用环境变量或 llm keys 命令统一管理敏感凭证。
下载说明
本源码已打包整理，可通过下方链接获取完整项目文件。
由于项目仅含 32 个文件，下载体积小、结构清晰，适合快速上手与二次开发。
GitHub项目开源地址：https://github.com/simonw/llm。
