ByteNoteByteNote
Claude Code 现在也能剪视频了:像剪辑师一样干活的开源 Skill
字

字节笔记本

2026年10月24日 · 约 17 分钟读完

Claude Code 现在也能剪视频了:像剪辑师一样干活的开源 Skill

API中转
¥120

你大概习惯了,剪视频得打开 Premiere 或 Final Cut,拖时间线、调字幕、抠静音、配动画,一坐就是半天。

但如果我说,现在你可以把素材扔进一个文件夹,跟 Claude Code 说一句"剪成一条发布视频",它就自己干完了,你会信吗?

Miguel Ángel Durán(@midudev,西班牙语圈顶级开发者博主)最近推荐了一个开源 Skill:video-use,来自 browser-use 团队。100% 免费、开源,让 Claude Code(或任何带 shell 的 AI Agent)变成一个对话式视频剪辑师。

今天就来拆它,为什么这个项目的设计哲学,值得每个做 AI 工具的人学。

配图

video-use 演示

video-use 的演示,在终端里对话,Claude Code 直接产出剪辑好的 final.mp4。


一、它能干什么

先看功能,再讲原理。video-use 能做的:

  • 剪掉填充词和废片,umm、uh、口误、开场白、take 之间的静默
  • 自动调色,每段统一风格(暖色电影感、中性锐利,或自定义 ffmpeg 滤镜链)
  • 30ms 音频淡入淡出,每个切点都处理,绝不出现"啪"的爆音
  • 烧录字幕,默认 2 词一组的大写块,样式完全可定制
  • 生成动画叠加,通过 HyperFrames / Remotion / Manim / PIL,并行子 Agent 生成,每个动画一个
  • 自我评估,每个切点边界处,渲染前先自查一遍
  • 会话记忆,project.md 持久化,下次接着上次的进度剪

听起来像专业剪辑师干的活?没错,它就是想替代那套工作流。


配图

二、用法:一句话启动

装好后,进到你的素材文件夹,启动 Claude Code:

bash
cd /path/to/your/videos
claude

然后在会话里说:

edit these into a launch video

(把这些剪成一条发布视频)

它会:盘点素材 → 提出剪辑策略 → 等你确认 → 产出 edit/final.mp4。

注意那个"等你确认",这是它的设计哲学之一(后面会讲)。所有产出都在 <视频目录>/edit/ 下,Skill 目录保持干净,不污染你的素材。


三、核心哲学:LLM 不看视频,它"读"视频

这是整个项目最精彩的设计。README 里有一句话点透:

The LLM never watches the video. It reads it.

(LLM 从不看视频。它读视频。)

为什么这个思路关键?看那个对比:

朴素做法:30,000 帧 × 1,500 tokens = 45M tokens 的噪声。 video-use:12KB 文本 + 少量 PNG。

如果把视频当一堆图片喂给 LLM,token 会爆炸,而且大部分是噪声,LLM 根本处理不过来。video-use 的解法是给 LLM 一个结构化的"阅读视图",而不是一堆帧。

这跟 browser-use 团队自己的成名作是同一个哲学,browser-use 给 LLM 一个结构化 DOM 而不是网页截图,video-use 给 LLM 一个结构化转录而不是视频帧。把非结构化的媒体,转成 LLM 能高效消费的结构化文本。

它用了两层:

Layer 1:音频转录(始终加载)

每个素材调一次 ElevenLabs Scribe,得到:

  • 词级时间戳(精确到每个词的开始/结束)
  • 说话人分离(S0、S1…)
  • 音频事件((laughter)、(applause)、(sigh))

所有 take 打包成一个约 12KB 的 takes_packed.md,这是 LLM 的主阅读视图。长这样:

text
## C0103  (duration: 43.0s, 8 phrases)
  [002.52-005.36] S0 Ninety percent of what a web agent does is completely wasted.
  [006.08-006.74] S0 We fixed this.

LLM 读这个,就能知道每个词在哪、谁说的、中间有没有笑声,剪视频需要的全部信息,都在文本里。

Layer 2:视觉合成(按需加载)

timeline_view 生成胶片条 + 波形 + 词标签的 PNG,只在决策点调用,比如模糊的停顿、take 对比、切点 sanity check 时。

为什么不全量生成?因为贵、且没必要。绝大多数剪辑决策靠转录文本就够了,只有少数模糊时刻需要"看一眼画面"。按需可视化,是这套设计的效率核心。


四、流水线:转录 → 打包 → 推理 → EDL → 渲染 → 自评

text
Transcribe ──> Pack ──> LLM Reasons ──> EDL ──> Render ──> Self-Eval
                                                          │
                                                          └─ 有问题?修 + 重渲染(最多 3 次)

几个关键点:

  • EDL(Edit Decision List,剪辑决策清单),LLM 输出的不是直接视频,而是一份结构化的剪辑指令,再由 render.py 执行。这是"AI 规划 + 脚本执行"的分离。
  • 自评循环,渲染后,在每个切点边界处再跑一次 timeline_view,检查视觉跳变、音频爆音、字幕被遮挡。你看到的预览,是它自评通过后的版本。
  • 最多重试 3 次,有界,不会无限循环(呼应 Loop Library 的"该停就停")。

五、五条设计原则(值得每个 AI 工具作者抄)

README 末尾列了 5 条设计原则,我认为是整个项目最值钱的部分:

  1. 文本 + 按需可视化。 不逐帧 dump。转录就是界面。
  2. 音频为主,视觉跟随。 切点来自语音边界和静默间隙。
  3. 问 → 确认 → 执行 → 自评 → 持久化。 没有策略批准,绝不碰剪辑。
  4. 对内容类型零假设。 先看、先问、再剪。
  5. 12 条硬规则约束生产正确性,其余艺术自由。 工程正确不可妥协,品味不是。

这五条,几乎可以直接套用到任何"AI 自动化专业工作"的场景。尤其第 3 条,"先问再动手",跟前面 Claude Code 最佳实践里的 plan 模式、Loop Library 的"该停就停"、CJ Zafir 那段"可验证可撤销"的 prompt,是同一个理念:AI 做到 90%,关键决策交还人。


六、12 条硬规则(节选)

SKILL.md 里有 12 条不可妥协的生产规则,挑几条让你感受它的专业度:

  • 字幕最后渲染(Rule 1),避免被叠加层遮挡
  • 音频优先,切点候选来自词边界和静默间隙
  • 保留峰值,笑声、punchline、强调节拍要留着,甚至要延长到包含反应("笑本身就是节拍")
  • 说话人交接要有气口,通常 400-600ms,快节奏少点,电影感多点
  • 静默是切点候选,≥400ms 通常最干净,150-400ms 要视觉检查,<150ms 危险(可能在句中)
  • 切点 padding,默认第一个保留词前 50ms、最后一个词后 80ms,蒙太奇紧凑点,纪录片松点
  • 永不独立推理音视频,每个切点必须音视频两条轨道都成立

这些不是 AI 拍脑袋写的,是真实剪辑师的 craft。SKILL.md 本质上是一份"如何当好剪辑师"的操作手册,喂给了 Claude Code。


七、怎么装

方式一:让 Agent 自己装(推荐)

在 Claude Code(或 Codex / Hermes 等)里粘贴:

text
Set up https://github.com/browser-use/video-use for me.

Read install.md first to install this repo, wire up ffmpeg, register the skill with whichever agent you're running under, and set up the ElevenLabs API key — ask me to paste it when you need it. Then read SKILL.md for daily usage, and always read helpers/ because that's where the editing scripts live. After install, don't transcribe anything on your own — just tell me it's ready and wait for me to drop footage into a folder.

Agent 会自动:克隆仓库、装依赖、注册 Skill、问你要 ElevenLabs API key(去 elevenlabs.io 申请)。

方式二:手动装

bash
# 1. 克隆并软链到 Agent 的 skills 目录
git clone https://github.com/browser-use/video-use ~/Developer/video-use
ln -sfn ~/Developer/video-use ~/.claude/skills/video-use        # Claude Code
# ln -sfn ~/Developer/video-use ~/.codex/skills/video-use       # Codex

# 2. 装依赖
cd ~/Developer/video-use
uv sync                         # 或 pip install -e .
brew install ffmpeg             # 必需
brew install yt-dlp             # 可选,下载在线素材用

# 3. 配 ElevenLabs key
cp .env.example .env
# 编辑 .env:ELEVENLABS_API_KEY=...

依赖很轻:requests、librosa、matplotlib、pillow、numpy,可选 manim。核心靠 ffmpeg 做实际渲染。


八、它真正厉害在哪

拆完整个项目,我觉得 video-use 最值得学的不是"能剪视频"这个功能,而是它的方法论:

第一,它找到了 LLM 消费视频的正确接口。 不是喂帧,是喂转录文本。这把"45M token 噪声"压成了"12KB 高信号文本"。这个思路对所有"让 AI 处理富媒体"的场景都有启发,先想清楚 AI 需要什么信息,再设计最小化的表示。

第二,它把专业 craft 编码成了规则。 SKILL.md 那 22KB 不是废话,是剪辑师的 know-how。AI 工具的天花板,往往不在于模型多强,而在于你有没有把领域专家的知识喂给它。

第三,它坚持"人确认再动手"。 不像很多 AI 工具一上来就自动跑,video-use 的每一步都"ask → confirm → execute"。这是对专业工作的尊重,剪错了比不剪更糟。

第四,它把 Skill 设计成跨 Agent 的。 不绑定 Claude Code,Codex、Hermes、Openclaw 都能用。这是 browser-use 团队的格局,做生态,不做锁。


九、谁该试,注意什么

适合你,如果:

  • 你做口播、教程、播客、访谈类内容(talking head 场景最对口)
  • 你受够了手动抠填充词、调字幕
  • 你已经在用 Claude Code,想给它加个视频能力
  • 你是开发者,对 ffmpeg 不陌生

注意几点:

  • 依赖 ElevenLabs Scribe 做转录,这是它最重的外部依赖,要 API key(有免费额度)
  • 目前偏语音驱动,纯视觉蒙太奇、MV 这类强视觉内容,它的音频优先策略不是最优
  • 需要本地 ffmpeg,Mac 用 brew 装就行,Windows/Linux 也能装
  • 动画生成靠子 Skill,HyperFrames/Remotion/Manim 要单独配,但都是可选的

十、一个更广的信号

video-use 出现的意义,超过了"又一个好用的 AI 工具"。它印证了一个趋势:

Skill(技能)正在成为 AI Agent 时代的新应用形态。

以前的软件是"一个 GUI + 一堆功能"。现在的趋势是,一个 SKILL.md + 一组脚本,让任何 AI Agent 拥有一个专业能力。video-use 让 Claude Code 会剪视频,就像 AnyDoor 让菜单栏会截图、Codex Island 让刘海区会管会话。

这跟前面我们拆过的所有内容(橙皮书的 Skill 章节、Claude Code 最佳实践的 commands vs skills、Loop Library 的 Loopy skill),指向同一个未来:AI Agent 的能力,正在被一个个开源的 Skill 模块化、可组合化。

video-use 是这个趋势里,目前最完整、设计最讲究的样本之一。值得每个关心 AI 工具生态的人研究。


本文基于 Miguel Ángel Durán(@midudev)的 X 推文及 video-use 仓库整理,原文 https://x.com/midudev/status/2070508259010625823 ,仓库 https://github.com/browser-use/video-use 。开源免费,依赖 ffmpeg + ElevenLabs Scribe。

推荐配合阅读:前面写的 AnyDoor(同样是"开源整合专业能力"的思路)、Anthropic 8 趋势报告(Trend 5"扩展到新场景"的实例)、Claude Code 最佳实践(Skill 设计范式)。


本文是第二大脑 vault 的 raw 阅读笔记(2026-06 编译),观点与数字以写作时点为准。全系列背景见《把 18 篇文章喂给 Claude,编译出一座第二大脑》。

相关文章

分享: