ByteNoteByteNote
云端 Agent 基础设施:从笔记本到永不掉线
字

字节笔记本

2026年10月24日 · 约 7 分钟读完

云端 Agent 基础设施:从笔记本到永不掉线

API中转
¥120

Peter Pang(@intuitiveml)写了一篇 X Article,Building cloud agent infrastructure: what's different, and what we learned。865 赞、159 转。

核心洞察,今天的 Agent 框架都假设你在桌面上跑:一个用户、一台机器、一个进程。但真正的 Agent 需要在云端跑,永不关机、永不掉线、多用户、多任务。 这和本地跑 Agent 完全是两套问题。

配图


一、核心问题:本地 Agent vs 云端 Agent

维度本地 Agent(现状)云端 Agent(目标)
运行时间笔记本开着才跑7×24 永不停
文件系统写本地磁盘写云端存储/对象存储
API Key环境变量密钥管理服务
用户数一个用户多用户/多租户
进程单进程多进程/容器隔离
状态在内存里持久化到数据库
网络直接访问需要 VPC/安全组

"在本地跑 Agent"和"在云端跑 Agent"不是同一件事,它们是完全不同的工程问题。


配图

二、云端 Agent 的五个新挑战

1. 持久性,不能假设进程永远活着

本地 Agent 跑在你笔记本上,你关盖子它就停了。云端 Agent 也不能假设进程永远活着,容器可能被重启、机器可能被替换。

解法,状态外置。所有重要状态写到数据库/对象存储,进程崩了重启能恢复。

这呼应前面 Loop Engineering 论文讲的,"Agent 会遗忘,仓库不会"。云端的"仓库"是数据库。

2. 多租户,不能假设只有一个用户

本地 Agent 只服务你一个人。云端 Agent 可能同时服务 1000 个用户。

新问题:

  • 用户 A 的 Agent 不能看到用户 B 的数据(隔离)
  • 资源分配(用户 A 跑大任务不能影响用户 B)
  • 成本归属(每个用户花了多少 token)

这呼应前面《企业 Agent 平台工程》讲的,多租户 + 权限 + 成本归因。

3. 安全,不能假设环境可信

本地 Agent 跑在你自己的机器上,环境可信。云端 Agent 跑在共享基础设施上,必须假设环境不可信。

新问题:

  • API Key 不能放环境变量(其他用户可能看到)
  • Agent 执行的代码需要沙箱隔离
  • 网络访问需要限制(防 Agent 被诱导攻击外部服务)

4. 可扩展性,不能假设单机够用

本地 Agent 单机够用。云端 Agent 可能需要同时跑 100 个,需要容器编排(K8s)。

新问题:

  • Agent 之间不互相干扰(容器隔离)
  • 资源弹性(高峰扩容、低谷缩容)
  • 任务队列(Agent 排队等资源)

5. 可观察性,不能假设你看得见

本地 Agent 你盯着终端就能看到。云端 Agent 跑在远端容器里,必须有 Tracing/日志/指标。

这呼应前面 agents-go 的 Tracing 四层架构,trace/span/processor/exporter 就是为云端设计的。


三、云端 Agent 基础设施的技术栈

text
用户请求
  │ API Gateway
  ▼
任务队列(Redis/RabbitMQ)
  │
  ├── Agent 容器 1(用户 A 的任务)
  │   ├── 代码沙箱(Docker/gVisor)
  │   ├── API Key(从密钥管理服务拉取)
  │   ├── 文件系统(对象存储挂载)
  │   └── 状态持久化(PostgreSQL)
  │
  ├── Agent 容器 2(用户 B 的任务)
  │   └── ...(完全隔离)
  │
  └── Agent 容器 N
      │
      ▼
  Tracing(Jaeger/Datadog)
  日志(ELK/CloudWatch)
  指标(Prometheus/Grafana)

四、和前面内容的完整串联

前面拆过的和云端 Agent 的关系
Loop Engineering 论文论文的"持久化"动作 = 云端的状态外置
Chorus(远端 Agent 管理)Chorus 就是云端 Agent 基础设施的雏形
VPS 迁移指南VPS 是"个人版云端 Agent",这篇文章是"企业版"
企业 Agent 平台工程那本书讲的权限/审计/SLO = 云端 Agent 的治理层
agents-go TracingTracing 四层架构 = 云端可观察性
Stripe Minions(1300 PR/周)Stripe 的管线就是企业级云端 Agent
Codex Island从"本地管 Agent"到"云端看 Agent"的桌面端
MCP Memory(共享记忆)Cloudflare Workers 部署 = 云端 Agent 记忆层

五、谁该关注

如果你在构建:

  • Agent SaaS 平台(给多个用户提供 Agent 服务)
  • 企业内部 Agent 平台(多团队共享)
  • 自动化管线(Loop Engineering 的企业版)
  • Agent 编排系统(多 Agent 协作)

这篇文章是你的架构蓝图。 从本地 Agent 到云端 Agent 的每一层差异都讲到了。


六、小结

一句话:从"笔记本上的 Agent"到"云端 Agent"不是简单的部署迁移,是整个架构范式的转变。持久性、多租户、安全、扩展性、可观察性,每一层都需要重新设计。

Peter Pang 的这篇 Article 值得所有做 Agent 平台的人收藏。

本地 Agent 是"玩具",云端 Agent 是"产品",这之间的鸿沟就是这篇 Article 讲的东西。


本文基于 Peter Pang(@intuitiveml)的 X Article 整理。原文 https://x.com/intuitiveml/status/2062699747224568212 。865 赞、159 转。

推荐配合:Loop Engineering 论文解析(持久化动作)、Chorus 远端 Agent(云端管理实践)、VPS 迁移指南(个人版云端)、企业 Agent 平台工程(治理层)、agents-go Tracing(可观察性)。

相关文章

分享: