
字节笔记本
2026年10月24日 · 约 7 分钟读完
云端 Agent 基础设施:从笔记本到永不掉线
Peter Pang(@intuitiveml)写了一篇 X Article,Building cloud agent infrastructure: what's different, and what we learned。865 赞、159 转。
核心洞察,今天的 Agent 框架都假设你在桌面上跑:一个用户、一台机器、一个进程。但真正的 Agent 需要在云端跑,永不关机、永不掉线、多用户、多任务。 这和本地跑 Agent 完全是两套问题。

一、核心问题:本地 Agent vs 云端 Agent
| 维度 | 本地 Agent(现状) | 云端 Agent(目标) |
|---|---|---|
| 运行时间 | 笔记本开着才跑 | 7×24 永不停 |
| 文件系统 | 写本地磁盘 | 写云端存储/对象存储 |
| API Key | 环境变量 | 密钥管理服务 |
| 用户数 | 一个用户 | 多用户/多租户 |
| 进程 | 单进程 | 多进程/容器隔离 |
| 状态 | 在内存里 | 持久化到数据库 |
| 网络 | 直接访问 | 需要 VPC/安全组 |
"在本地跑 Agent"和"在云端跑 Agent"不是同一件事,它们是完全不同的工程问题。

二、云端 Agent 的五个新挑战
1. 持久性,不能假设进程永远活着
本地 Agent 跑在你笔记本上,你关盖子它就停了。云端 Agent 也不能假设进程永远活着,容器可能被重启、机器可能被替换。
解法,状态外置。所有重要状态写到数据库/对象存储,进程崩了重启能恢复。
这呼应前面 Loop Engineering 论文讲的,"Agent 会遗忘,仓库不会"。云端的"仓库"是数据库。
2. 多租户,不能假设只有一个用户
本地 Agent 只服务你一个人。云端 Agent 可能同时服务 1000 个用户。
新问题:
- 用户 A 的 Agent 不能看到用户 B 的数据(隔离)
- 资源分配(用户 A 跑大任务不能影响用户 B)
- 成本归属(每个用户花了多少 token)
这呼应前面《企业 Agent 平台工程》讲的,多租户 + 权限 + 成本归因。
3. 安全,不能假设环境可信
本地 Agent 跑在你自己的机器上,环境可信。云端 Agent 跑在共享基础设施上,必须假设环境不可信。
新问题:
- API Key 不能放环境变量(其他用户可能看到)
- Agent 执行的代码需要沙箱隔离
- 网络访问需要限制(防 Agent 被诱导攻击外部服务)
4. 可扩展性,不能假设单机够用
本地 Agent 单机够用。云端 Agent 可能需要同时跑 100 个,需要容器编排(K8s)。
新问题:
- Agent 之间不互相干扰(容器隔离)
- 资源弹性(高峰扩容、低谷缩容)
- 任务队列(Agent 排队等资源)
5. 可观察性,不能假设你看得见
本地 Agent 你盯着终端就能看到。云端 Agent 跑在远端容器里,必须有 Tracing/日志/指标。
这呼应前面 agents-go 的 Tracing 四层架构,trace/span/processor/exporter 就是为云端设计的。
三、云端 Agent 基础设施的技术栈
用户请求
│ API Gateway
▼
任务队列(Redis/RabbitMQ)
│
├── Agent 容器 1(用户 A 的任务)
│ ├── 代码沙箱(Docker/gVisor)
│ ├── API Key(从密钥管理服务拉取)
│ ├── 文件系统(对象存储挂载)
│ └── 状态持久化(PostgreSQL)
│
├── Agent 容器 2(用户 B 的任务)
│ └── ...(完全隔离)
│
└── Agent 容器 N
│
▼
Tracing(Jaeger/Datadog)
日志(ELK/CloudWatch)
指标(Prometheus/Grafana)四、和前面内容的完整串联
| 前面拆过的 | 和云端 Agent 的关系 |
|---|---|
| Loop Engineering 论文 | 论文的"持久化"动作 = 云端的状态外置 |
| Chorus(远端 Agent 管理) | Chorus 就是云端 Agent 基础设施的雏形 |
| VPS 迁移指南 | VPS 是"个人版云端 Agent",这篇文章是"企业版" |
| 企业 Agent 平台工程 | 那本书讲的权限/审计/SLO = 云端 Agent 的治理层 |
| agents-go Tracing | Tracing 四层架构 = 云端可观察性 |
| Stripe Minions(1300 PR/周) | Stripe 的管线就是企业级云端 Agent |
| Codex Island | 从"本地管 Agent"到"云端看 Agent"的桌面端 |
| MCP Memory(共享记忆) | Cloudflare Workers 部署 = 云端 Agent 记忆层 |
五、谁该关注
如果你在构建:
- Agent SaaS 平台(给多个用户提供 Agent 服务)
- 企业内部 Agent 平台(多团队共享)
- 自动化管线(Loop Engineering 的企业版)
- Agent 编排系统(多 Agent 协作)
这篇文章是你的架构蓝图。 从本地 Agent 到云端 Agent 的每一层差异都讲到了。
六、小结
一句话:从"笔记本上的 Agent"到"云端 Agent"不是简单的部署迁移,是整个架构范式的转变。持久性、多租户、安全、扩展性、可观察性,每一层都需要重新设计。
Peter Pang 的这篇 Article 值得所有做 Agent 平台的人收藏。
本地 Agent 是"玩具",云端 Agent 是"产品",这之间的鸿沟就是这篇 Article 讲的东西。
本文基于 Peter Pang(@intuitiveml)的 X Article 整理。原文 https://x.com/intuitiveml/status/2062699747224568212 。865 赞、159 转。
推荐配合:Loop Engineering 论文解析(持久化动作)、Chorus 远端 Agent(云端管理实践)、VPS 迁移指南(个人版云端)、企业 Agent 平台工程(治理层)、agents-go Tracing(可观察性)。


