JoyAI-Echo 音视频生成模型源码 长视频生成平台

JoyAI-Echo 音视频生成模型源码 长视频生成平台

  • 承接源码二开、定制
  • 各种脚本CMS插件定制
  • 全站源码免费下载
资源下载
免费资源
立即下载

JoyAI-Echo 封面图

系统概览

文章正文

JoyAI-Echo 是京东开源的长时程音视频生成平台源码,一个仓库包含长视频生成与世界模型两条独立产品线,覆盖从分钟级长片到可交互世界的完整生成链路。

项目由京东 JoyAI 团队维护,基于 Lightricks 的 LTX-2 社区许可证开源,不同于 MIT 或 Apache 宽松协议,仅限学术与非商业用途,最后更新 2026 年 9 月,四篇论文与更新日志随仓库发布。

源码简介

Echo-LongVideo 1.5 支持超过 10 分钟的长时程生成,配对跨模态记忆库把角色外貌、声音与场景连贯性带过一个个可独立编辑的镜头。

R2V 参考生成允许每个请求携带文本提示、可选首帧条件与最多七个有序记忆槽,视觉形象、音色与故事上下文在镜头间直接复用。

官方提供 BF16、FP8、FP4 三档权重与消费级 GPU 低显存配置,通过逐层权重流式加载与分块 VAE 解码压低峰值显存。

Echo-WM 世界模型走 LTX-2.3 骨干,双向音视频 DiT 与分块因果注意力支持连续导航下视频、环境声、音乐与语音同步演化,路线图指向 LTX-2.5 骨干与稀疏注意力加速。

Echo Director Agent 提供本地优先的多镜头视频规划工作流,把故事点子变成可编辑的production流程并提交生成任务。

和长视频生成方案对比 vs HunyuanVideo,JoyAI-Echo 的差异点在长时程连贯性与音画同生。

对比维度 JoyAI-Echo HunyuanVideo
生成时长 10 分钟级多镜头长片 单镜头秒级片段
音画能力 视频与环境声音乐语音同生 以无声视频为主
消费级适配 FP4 权重加流式加载低显存配置 以数据中心 GPU 为主
许可证 LTX-2 社区许可仅限学术非商用 社区专属协议

整体来看,做长片叙事、互动世界或学术复现,JoyAI-Echo 是目前开源阵营少有的音画一体长时程方案。

欢迎感兴趣的开发者到 GitHub 仓库 star 和 fork 参与贡献。

适用场景

  • 短剧与动画团队生成分镜连贯的长片样片。
  • 世界模型研究者复现可导航生成环境实验。
  • 游戏与虚拟场景团队产出 UE 物理轨迹仿真数据。
  • 消费级显卡用户本地体验长视频生成工作流。

技术栈与运行环境

技术栈为 Python 3.11 与 PyTorch 2.8.0,transformers 4.57.6,CUDA 12.8 参考环境,权重托管在 Hugging Face。

长视频线需另行下载 echo15 系列权重与 Gemma 文本编码器,世界模型线独立环境互不影响,更新日志随仓库 News 栏持续发布。

功能亮点

  • 超过 10 分钟长时程音视频生成。
  • R2V 参考生成与七个有序记忆槽。
  • 配对跨模态记忆库保持镜头连贯。
  • Director Agent 规划多镜头production流程。
  • BF16、FP8、FP4 三档精度权重。
  • Echo-WM 全模态世界模型与 UE 数据引擎。

技术架构与部署指南

安装与部署提示

下载源码包后进入 echo_longvideo 目录,用 uv 或 conda 创建 Python 3.11 环境并安装依赖,ffmpeg 需加入 PATH。

从 Hugging Face 下载权重放入 checkpoints 目录,运行 inference 脚本按配置执行批量推理,输出按工作与镜头分目录。

消费级 GPU 选 consumer 系列配置,24 GiB 显存目标建议预计算条件再在线生成,世界模型线按 echo_wm 目录说明独立部署。

截图与演示说明

JoyAI-Echo 界面截图

上图为 JoyAI-Echo 1.5 的多镜头生成效果演示,九宫格分镜覆盖街头涂鸦、钢琴演奏、地铁乐队与 3D 动画等多风格场景,镜头间角色形象与场景氛围保持连贯。

R2V 请求把文本提示、首帧条件与七个记忆槽组合使用,视觉形象与音色在镜头间直接复用,示例工程含完整请求 schema 可对照修改。

官方示例工程包含完整 R2V 请求样例,替换记忆槽图片与提示词即可复现同款镜头序列,消费级 GPU 用户选 consumer 系列配置即可跑通低显存推理。

常见问题

问. JoyAI-Echo 是什么项目?

JoyAI-Echo 是京东开源的长时程音视频生成项目,包含 Echo-LongVideo 长视频生成与 Echo-WM 全模态世界模型两条产品线。

问. JoyAI-Echo 源码怎么部署?

从本页获取源码包解压后创建 Python 3.11 环境安装依赖,从 Hugging Face 下载权重放入 checkpoints 目录,按配置运行推理脚本即可。

问. 和 HunyuanVideo 对比有什么区别?

与 HunyuanVideo 对比,JoyAI-Echo 主打 10 分钟级多镜头长片与音画同生,记忆库让角色与场景跨镜头保持连贯。

问. JoyAI-Echo 可以商用吗?

项目基于 LTX-2 社区许可证,仅限学术与非商业用途,商用需联系 Lightricks 获取授权。

安全风险提示

对 803 个源码文件做了高风险函数扫描,命中均为 PyTorch 模型推理模式与前端正则解析的常规调用,未发现后门或恶意外联。

许可证仅限学术与非商业用途,集成前务必确认授权边界,权重从 Hugging Face 官方渠道下载,生成内容发布前注意版权与合规审核。

下载说明

本页提供 JoyAI-Echo 音视频生成平台的完整源码打包下载,含长视频与世界模型两条线全部代码与配置。

压缩包为原始仓库文件,下载后解压按部署提示操作即可,模型权重需从 Hugging Face 官方渠道另行下载。

GitHub项目开源地址 https://github.com/jd-opensource/JoyAI-Echo

资源下载
下载价格免费
本文章资源https://www.aosen.cc/mianfei16384.html来源于互联网,如存在侵权,请联系我们立马删除!
0
显示验证码