为何做端侧翻译
传统翻译API需要联网+付费,端侧翻译则零成本、零延迟、零隐私泄露。随着手机NPU算力提升,1.8B级别的模型在移动端实时翻译已从设想变为现实。
关键参数
- 1.8B 参数:在主流手机NPU上可流畅运行
- 200+ 语种:覆盖常见互译对,小语种覆盖仍在扩展
- 离线运行:无需网络,飞行模式/弱网环境照样翻译
- 多语言统一:采用单一模型+语种嵌入的方案,便于扩展
技术亮点
模型采用蒸馏+对抗训练兼顾质量与体积,推理框架针对移动端做了量化(INT8)与算子融合优化,实测在主流安卓机型上达到可读级翻译质量。
适用场景
- 跨境商务人士的离线翻译
- 游客在陌生语言的景点/菜单场景
- 企业内网/军工等不允许数据出域的场景