Voco · 完全离线的 macOS 实时字幕应用,Qwen3-ASR + Metal 翻译

想要在 Mac 上做实时字幕却不想把麦克风数据传到云端?Voco 是一款完全离线的 macOS 实时字幕应用,语音转写 + 中英双语翻译,全部在本机推理完成,断网也能用。

Voco 是什么

Voco 是 ByteNote 出品的一款 macOS 原生应用,做的事情很纯粹:把麦克风采集到的语音实时转写成文字,再翻译成中文(或英文),整个过程不需要联网。模型只下载一次,之后所有推理都在你的电脑上完成,音频数据不会离开这台机器。

核心特性

• 完全离线:模型下载到本地后,所有推理在本机进行,不联网、不上传音频
• Qwen3-ASR-1.7B:阿里开源的语音识别模型,纯 C 推理引擎(NEON + Accelerate)直接嵌入 App,流式 KV cache + 句级回滚
• Qwen3-1.7B 4bit 翻译:基于 mlx-swift-lm 在 Apple Metal GPU 上跑,异步执行不阻塞 ASR
• SwiftUI 原生 UI:支持 macOS 14+,侧边栏三视图:实时字幕 / 历史库 / 模型管理
• 流式输出:稳定文本按句切分(segment 定稿句子,partial 仍在滚动修正)
• 会话历史:每次会话自动保存为 JSON,可随时回看
• 隐私优先:麦克风权限明确,无需账号、无遥测

怎么用

1. 首次启动:在「模型」页下载两个模型(约 4.4 GB,来自 Hugging Face),只需下载一次
2. 开始使用:打开实时字幕视图,授权麦克风权限,Voco 就开始监听
3. 看字幕:语音被实时转写为文字,英文同时被异步翻译成中文显示
4. 回看历史:每次会话结束自动保存,在「历史库」里随时调出

整个过程不需要联网。即便你拔掉网线、关掉 Wi-Fi,Voco 也照常工作。

适合什么场景

• 听英文会议、英文播客、英文视频时,实时看中文字幕
• 看英文直播没有 CC 字幕时,本地实时补字幕
• 做采访、访谈的现场实时记录,保留文字稿
• 离线环境(飞机上、内网内、隐私会议)下做实时字幕
• 不希望任何音频上传云端的隐私敏感场景

技术实现

Voco 的架构把 ASR 和翻译彻底解耦,各自跑在最适合的硬件上:

• ASR(语音转文字):Qwen3-ASR-1.7B,用纯 C 写的推理引擎(不依赖 Python/PyTorch),跑在 CPU + Accelerate/BLAS 上。代码含 NEON(Apple Silicon)、AVX(x86_64)、generic 三套内核,通过 Swift FFI 桥接到 App
• 翻译(英文转中文):Qwen3-1.7B 4bit,基于 mlx-swift-lm 在 Metal GPU 上跑,异步独立线程,不抢 ASR 的算力
• 音频采集:AVAudioEngine 麦克风采集,转 16kHz mono Float32 喂给 ASR
• 句级切分:C 引擎里维护跨线程缓冲,稳定文本按句切分输出 segment 事件,部分文本输出 partial 事件

C 引擎的流式 KV cache + 句级回滚设计,让长时录音也能稳定输出,不会因为上下文累积导致内存爆炸。

上手试试

如果你长期需要本地实时字幕,又担心云端服务的隐私问题,Voco 是个很硬核的选择。完全离线、模型自带、不联网,适合追求隐私和稳定性的用户。