
源码系统概览
文章正文
Unity Catalog 是一套开源的开放数据与 AI 通用目录源码,业界唯一支持多格式多引擎多模态统一治理的管理平台,提供企业级数据目录和 AI 模型管理功能。该平台能显著提升企业数据治理和 AI 模型管理的效率。
源码简介
项目由 LF AI 和 Data 基金会孵化,基于 Java、Python、Scala 构建。支持 Delta Lake、Iceberg、Hudi、Parquet、JSON、CSV 等多格式,包含表、文件、函数、AI 模型多模态治理。多引擎访问,Spark、Trino、Presto 等引擎直连。集成 LangChain、OpenAI、LlamaIndex、CrewAI、DSPy、Gemini、Anthropic、AutoGen、LiteLLM 等 AI 框架。React 管理界面可视化数据目录浏览,支持权限管理和数据血缘追踪。项目采用 Apache 2.0 协议开源,社区活跃,欢迎贡献 star 和 fork。最后更新 2026 年,更新日志见 GitHub 发布页面。当前版本号 v0.1.0。项目支持多格式数据存储、多引擎访问和多模态治理,是企业数据管理的核心基础设施。
适用场景
适用于企业数据湖数据目录管理、AI 模型治理与版本控制、多格式数据统一访问、数据合规与权限管理等场景,可替代云厂商专属数据目录服务。
技术栈与运行环境
主要使用 Java 开发,包含四百五十五个 Java 文件。Python 文件一百二十八个。前端管理界面使用 React 框架。构建工具使用 sbt。容器化部署使用 Helm 和 Kubernetes。接口规范使用 OpenAPI。
功能亮点
- 多格式支持(Delta Lake/Iceberg/Hudi/Parquet/JSON/CSV)
- 多模态治理(表/文件/函数/AI 模型统一目录)
- 多引擎访问,Spark/Trino/Presto 等引擎直连
- AI 集成(LangChain/OpenAI/LlamaIndex/CrewAI 等)
- React UI 管理界面,可视化数据目录浏览
技术架构与部署指南
安装与部署提示
首先克隆仓库到本地,使用 sbt assembly 编译 Java 后端。Python SDK 用 pip 安装。最后更新 2026 年,更新日志见 GitHub 发布页面。当前版本号 v0.1.0。
截图与演示说明
封面图展示 Unity Catalog 管理界面,可见数据目录列表、表结构详情和元数据浏览面板。管理界面左侧导航栏包含目录浏览、表管理、函数管理和 AI 模型管理功能。主区域展示当前数据目录中的表列表,每行包含表名、数据格式、创建时间和所有者信息。顶部有搜索栏,支持按表名或格式筛选。该界面支持查看表结构、数据预览、权限设置和数据血缘关系。截图来自 GitHub README 中的管理界面截图,呈现了开放数据治理管理平台的企业级可视化操作界面和元数据管理功能。
常见问题
问:Unity Catalog 是什么?
Unity Catalog 是业界唯一的开放数据与 AI 通用目录,支持多格式多引擎多模态统一治理。
问:Unity Catalog 和 AWS Glue 有什么区别?
Unity Catalog 开源不锁定云厂商,Glue 是 AWS 专属。Unity Catalog 还支持 AI 模型治理。
问:Unity Catalog 怎么安装?
git clone 后 sbt assembly 编译,pip install unitycatalog-python 安装 SDK。Docker 部署也可用。
问:Unity Catalog 免费吗?
采用 Apache 2.0 开源协议,完全免费使用,包括商业用途。
问:支持哪些数据格式?
支持 Delta Lake/Iceberg/Hudi/Parquet/JSON/CSV 等主流开源数据格式。
安全风险提示
未发现高风险函数。跨域资源共享由 API 网关配置,需限制来源域名。Docker 容器部署时注意数据库默认密码修改,建议使用强密码。Helm 部署时注意 RBAC 权限配置和命名空间隔离。
下载说明
已打包为 zip 压缩包,包含一千一百七十六个文件。下载后解压即可使用,包含完整的 Java、Python、Scala 源码和 Helm 部署配置文件。提取码为 8888。
对比,区别 vs Apache Hive Metastore:Unity Catalog 数据治理管理平台 和 Apache Hive Metastore 的区别在于各自定位不同。下表展示主要差异:
| 项目 | 特点 |
|---|---|
| Apache Hive Metastore | 老牌但仅限表元数据 |
| AWS Glue Catalog | 云原生但厂商锁定 |
| Nessie | Git 式版本但无 AI 治理 |
GitHub项目开源地址:https://github.com/unitycatalog/unitycatalog