70 秒音频 101 毫秒转完：MetalRT 把语音搬进 Apple Silicon 引擎

上周宣称单块 M4 Max 上 LLM 解码 658 tok/s、比 llama.cpp 快 1.67 倍的 MetalRT，这周把语音也搬进了同一个引擎：同一个引擎里同时跑大语言模型、语音转文字与文字转语音，号称 Apple Silicon 上第一个三模态齐全的推理引擎（厂商自称，未经第三方核验）。

语音数字按厂商博客自测口径：硬件为 M4 Max、64GB 统一内存、macOS 26.3，模型是 Whisper Tiny（4-bit）与 Kokoro-82M，每引擎跑 10 次取最好成绩。转写侧，70 秒音频 101 毫秒完成（实时因子 0.0014，714 倍于实时），比 mlx-whisper 快 4.6 倍、比 sherpa-onnx 快 5.5 倍；4 秒音频 31.9 毫秒、33 秒音频 104 毫秒。合成侧，4 个词 178 毫秒，比 mlx-audio 快 2.8 倍，36 个词 604 毫秒。

形态要注意：MetalRT 是闭源引擎，只发预编译二进制（dylib 加编译好的 Metal 内核加 C API 头文件），签名并公证过；它给 RunanywhereAI 的 RCLI 命令行 agent 工具做 GPU 加速，macOS 14 以上 Apple Silicon 可用。

照例泼三盆冷水。其一，闭源：没有公开源码，不能审计、不能自己编译，出问题只能等厂商修。其二，数字是厂商在自己机器上「取最好成绩」跑出来的，换模型、换硬件、换音频结果会变。其三，它是 RCLI 的加速组件，不是独立开源项目，别当成「又一个 llama.cpp」来写。

对在 Mac 上做本地 AI 应用的独立开发者，这第一次有了「LLM 加语音转文字加语音合成三合一、号称处处快过苹果自家 MLX」的选项：做语音助手、做会议转写、做离线翻译，不用再拼三个引擎。但闭源引擎在你的产品里能走多远，取决于你对「不能审计」这四个字的容忍度。