阿里通义 MAI-UI 团队发布 Qwen-UI-Agent,一款面向真实世界的 GUI 智能体基座模型,覆盖移动端、电脑端、网页端和 DeepSearch 环境。真机基准 MobileWorld-Real 上达到 92.2%,AndroidDaily 接近满分。
https://www.aosen.cc/wp-content/uploads/2026/08/20260821030958-2967.webp
Qwen-UI-Agent 是什么
Qwen-UI-Agent 是阿里巴巴通义团队 MAI-UI 推出的 GUI 智能体基座模型。它不针对单一界面设计,而是把手机 App、桌面软件、浏览器和 DeepSearch 环境统一到一个动作空间里,让模型在真实设备上完成搜索、比价、订票、写报告等长程任务。
与传统依赖截图加坐标定位的 GUI Agent 不同,Qwen-UI-Agent 将 GUI 操作与命令行执行混合,单次决策可输出多个动作,从而缩短执行轨迹。它的训练基于 100 多台真实手机、150 多款 App 搭建的环境,并支持超过 100 步轨迹的在线强化学习。
核心能力
项目主页把能力拆成六块。移动端日常任务、电脑端办公流程、浏览器操作、Deep Research 与 GUI 协同、主动服务、跨设备接力。典型用法有这几个。打开高德查地址,再去大众点评找附近咖啡馆,最后在小红书总结推荐。
安全方面,模型把判断贯穿执行全程。面对违法或高风险请求直接拒绝;涉及支付、删除、隐私授权等敏感场景会主动暂停并说明情况,等用户确认后再继续。
By the Numbers
- MobileWorld 成功率 82.1%
- MobileWorld-Real 真机成功率 92.2%
- AndroidDaily 成功率 97.5%
- OSWorld-Verified 电脑端成功率 79.5%
- WebArena 浏览器任务成功率 73.6%
- ScreenSpot-Pro GUI Grounding 得分 81.5%
- 真机移动环境覆盖 100 多台手机、150 多款应用
- 在线 RL 支持超过 100 步轨迹、约 10000 个并发环境
训练与评估方式
Qwen-UI-Agent 的训练数据来自真实设备环境。团队搭建了覆盖 100 多台真实手机和 150 多款 App 的移动环境,用于任务构建、轨迹采集、模型训练与评测。同时自建 MobileWorld-Real 真机基准,包含 400 多个任务和 100 多款应用。
这种从模拟到真实的闭环让模型不仅在标准 benchmark 上得分高,也能在真实 App 的真实界面里稳定执行。评估结果由作者在自己的环境里独立复现,并在技术报告中记录了 harness、judge、simulator 等具体设置,方便其他研究者参考。
与 Seed 2.1 Pro 的对比
| 维度 | Qwen-UI-Agent | Seed 2.1 Pro |
|---|---|---|
| MobileWorld | 82.1% | 73.2% |
| MobileWorld-Real | 92.2% | 未公开/落后 |
| AndroidDaily | 97.5% | 88.6% |
| 开源情况 | 开源权重与代码 | 闭源 |
| 训练环境 | 100 多台真机 | 以官方披露为准 |
表格数据来自 Qwen-UI-Agent 项目主页与 arXiv 技术报告,对比对象分数取自同一评测环境复现。
获取与使用
技术报告已发布在 arXiv 2607.28227,项目主页为 tongyi-mai.github.io/Qwen-UI-Agent,代码仓库在 github.com/Tongyi-MAI/MAI-UI。开发者可以下载权重、查看评估脚本,并在本地或真机环境中复现论文中的 benchmark。
常见问题
问Qwen-UI-Agent 是什么类型的模型?
它是面向真实设备的 GUI 智能体基座模型,把手机、电脑、浏览器和 DeepSearch 统一到一个动作空间里。
问它有哪些基准成绩?
MobileWorld 82.1%、MobileWorld-Real 92.2%、AndroidDaily 97.5%、OSWorld-Verified 79.5%、WebArena 73.6%。
问是否开源?
项目主页与 GitHub 已公开模型权重、代码和技术报告,采用开放权重方式发布。
问和纯文本 Agent 有什么区别?
Qwen-UI-Agent 直接操作图形界面,同时能执行命令行,适合必须点击、输入、跨应用跳转的真实任务。
问安全机制如何工作?
高风险请求直接拒绝;支付、删除、隐私授权等敏感操作会暂停并请求用户确认。
问普通用户能直接用吗?
目前主要面向开发者和研究者,需要一定的模型部署与真机环境搭建能力。
来源说明
信息来自 Qwen-UI-Agent 项目主页、arXiv 技术报告 2607.28227 与阿里通义官方公众号,采集时间 2026-08-21。
最后更新 2026-08-21