腾讯混元 Hy-MT2-1.8B 是一款端侧翻译大模型系统，版本号 v1.0.0，原生支持 33 个语种互译，通过 2-bit 和 1.25-bit 两套极致量化方案将 3.3GB 模型压缩至 440MB。
该模型在 FLORES-200 评测上优于 Microsoft Translator 等商业 API，已落地哔哩哔哩直播弹幕实时翻译。
核心功能与技术亮点
文章正文
腾讯混元团队于 2026 年 8 月发布 Hy-MT2-1.8B 端侧翻译模型。
模型原生支持 33 个语种互译，在 FLORES-200 评测上优于 Microsoft Translator 等商业翻译 API。
通过 2-bit 和 1.25-bit 两套量化方案，将 3.3GB 的 FP16 模型压缩至 440MB。
已联合英特尔完成 x86 平台算子适配，联合哔哩哔哩在直播弹幕实时翻译中落地。
源码简介
Hy-MT2-1.8B 是腾讯混元翻译模型族里主打端侧的版本。
模型参数量 1.8B，原生支持 33 个语种互译，效果优于商业翻译 API。
2-bit 方案采用拉伸弹性量化（SEQ），压缩至 574MB，翻译质量几乎无损。
1.25-bit 方案基于自研 Sherry 技术，已被 NLP 顶级会议 ACL 2026 选为 Oral。
许可证为开源协议，代码托管在 github.com/tencent/AngelSlim，最后更新 2026 年 8 月。
竞品对比
| 特性 | Hy-MT2 | WHISPER | NLLB |
|---|---|---|---|
| 定位 | 端侧翻译 | 语音识别 | 多语翻译 |
| 模型大小 | 440MB | 1.5GB | 3GB |
| 量化方案 | 1.25-bit | 4-bit | 无 |
| 端侧部署 | 支持 | 受限 | 不支持 |
| 许可证 | 开源 | MIT | MIT |
对比 WHISPER 和 NLLB，区别在于 Hy-MT2 专注端侧极低比特部署，可作为 NLLB 的替代方案。
适用场景
适用于直播弹幕和实时字幕的端侧翻译场景。
支持移动设备和 PC 端本地翻译，数据无需上传云端。
可用于多语言客服和跨国会议的实时翻译辅助。
适合内存紧张的普通设备运行高质量翻译模型。
技术栈与运行环境
核心基于 Transformer 架构，参数量 1.8B，支持 33 个语种互译。
2-bit 方案采用 SEQ 量化，压缩至 574MB。
1.25-bit 方案采用 Sherry 技术，压缩至 440MB，适配 SIMD 指令集。
英特尔优化 x86 平台算子，token rate 提升约 5 倍。
版本号 v1.0.0，最后更新 2026 年 8 月，更新日志见 GitHub 仓库。
功能亮点
- 极低比特量化,1.25-bit 方案将 3.3GB 压至 440MB
- Sherry 技术,稀疏高效三值量化，ACL 2026 Oral 论文
- x86 优化,英特尔 VNNI 指令融合，token rate 提升 5 倍
- B站落地,直播弹幕实时翻译，单条耗时 500-800ms
- 隐私保护,翻译全程本地完成，数据不上传云端
部署指南与常见问题
安装与部署提示
开源代码托管在 github.com/tencent/AngelSlim，许可证为开源协议。
模型权重发布在 huggingface.co/collections/AngelSlim/hy-low-bit-model。
可在应用商店搜索腾讯 Hy 翻译下载移动端 APP 体验。
版本号 v1.0.0，最后更新 2026 年 8 月，更新日志见 GitHub 提交记录。
截图与演示说明
封面展示了腾讯 AngelSlim GitHub 仓库的 README 页面。
页面展示了模型压缩工具包的功能说明和使用方法。
B站直播弹幕实时翻译演示展示了端侧翻译的实际效果。
英特尔设备上的体验链接提供了 Windows 客户端下载。
常见问题
问，Hy-MT2 和 WHISPER 有什么区别？
区别在于 Hy-MT2 专注端侧极低比特翻译部署，支持 1.25-bit 量化压缩至 440MB，而 WHISPER 主要做语音识别。
问，Sherry 技术是什么？
Sherry 是腾讯混元自研的稀疏高效三值量化技术，每 4 个参数中 3 个用正负 1 存储，1 个置 0，平均每参数仅 1.25-bit。
问，是否开源？
代码和权重均开源，托管在 GitHub 和 Hugging Face 平台，许可证为开源协议。
问，如何体验？
可在应用商店搜索腾讯 Hy 翻译下载 APP，或在英特尔设备上下载 B站直播客户端体验。
下载说明
本文来源,微信公众号腾讯混元，原文链接 https://mp.weixin.qq.com/s/wCoqiJ6HCS2YBWCegc1KEw 。
Hy-MT2-1.8B 由腾讯混元团队于 2026 年 8 月发布，版本 v1.0.0。
更新日志见 github.com/tencent/AngelSlim，最后更新 2026 年 8 月。
GitHub 项目开源地址,https://github.com/tencent/AngelSlim