
字节笔记本
2026年10月28日 · 约 3 分钟读完
Whisper 太慢?faster-whisper 把 13 分钟音频压到 17 秒
Whisper 开源之后,字幕转录的最大瓶颈从模型能力变成了跑得慢。faster-whisper 就是为这个瓶颈来的:用 CTranslate2 推理引擎重实现的 Whisper,官方基准给的是同精度下最高 4 倍速度、更省内存,再开 int8 量化还能继续压。2.6 万星、MIT 协议,PyPI 最新版 1.2.1,本系列第 18 个工具,负责把音轨变成字幕稿。

一、基准表比形容词可信
README 的基准测的是转录 13 分钟音频。Large-v2 模型跑在 RTX 3070 Ti 上:openai/whisper 用 fp16 要 2 分 23 秒、占 4708MB 显存;faster-whisper 同精度 1 分 03 秒;开 batch_size=8 直接压到 17 秒;换 int8 量化则只要 59 秒、显存降到 2926MB。CPU 上差距更夸张,small 模型转同样音频,openai 官方实现要 6 分 58 秒,faster-whisper 的 int8 加批量是 51 秒。
这些数字都来自仓库 README,硬件条件也标得清楚(GPU 基准用 CUDA 12.4)。结论一句话:转录从「等」变成了「顺手」。

二、部署比想象省事
两个工程细节值得一说。一是依赖:不像 openai-whisper 要求系统装 FFmpeg,faster-whisper 用 PyAV 解码音频,FFmpeg 的库直接打包在 Python 包里,pip 装完就能跑,GPU 环境另配 CUDA 12 和 cuDNN 9 即可。二是 CTranslate2 本身,这个 OpenNMT 出品推理引擎支持 8 位量化,CPU 和 GPU 都受益,这也是名字里 faster 的真正来源。
本站之前写过 WhisperX,它正是在 faster-whisper 之上加了强制对齐和说话人分离,需求更全可以直接用那个。
三、放进出片流水线
字幕环节的接法很直接:OBS 录完的素材丢给它,按句切出带时间戳的字幕稿,人工校一遍人名和术语,再进 OpenCut 或 Remotion 烧录。它和第 16 篇的 Chatterbox 还能组成闭环:AI 配音生成后反向转录,逐句比对原稿,配音有没有念错、漏句一目了然。
至此声音链路全部打通。系列只剩最后一篇,也是兜底的那篇:FFmpeg,编码与交付的总开关。



