K8s 上的 AI Agent 工厂:Hortator 让子代理在集群里安全降生
技术教程 · AI 与 AIOps · AI Agent · 2026-10-28
K8s 上的 AI Agent 工厂:Hortator 让子代理在集群里安全降生
我最近在调研一个真实痛点:AI Agent 跑在 K8s 上,到底该怎么管?
现在的方案两极分化。一边是 LangChain / CrewAI 这种 Python 框架——agent 跑在进程里,安全是安全,但根本没有真正的 autonomy,想调个 shell 还要你自己写 tool。另一边是那些 "terrifying cowboys"——直接 SSH 进集群,spawn 容器,curl | bash 随便跑,美其名曰 "autonomous",实际上是把生产环境当 playground。
去年我在公司内部推 AI coding agent 的时候,安全团队的原话是:"你让 agent 在集群里自己跑,等于给每个 LLM 响应开一个 root shell。" 这句话让我思考了很久。
我需要的中间态:agent 可以自己 spawn 子 agent、自己拆解任务、自己组合结果,但每一步都有边界。
Hortator 就是这个中间态。
它不是又一个 Agent 框架
先澄清一点:Hortator 不是 另一个 CrewAI / LangGraph 替代品。
它是一个 Kubernetes Operator,解决的是一个完全不同的问题:如何在 K8s 里安全地托管 AI Agent 的运行时。
你可以把 Hortator 理解成一个 "Agent Job Scheduler + Guardrail Enforcer":
- Agent 不是跑在某个 Python 进程里,而是跑在自己的 Pod 里
- 每个 Pod 有独立的 ServiceAccount、NetworkPolicy、PVC、budget
- 父 agent 通过
hortator spawn生成子 agent,子 agent 完成任务后把结果写进/outbox/,operator 自动复制到父 agent 的/inbox/ - 整个过程 agent 看不到 YAML,也不需要知道 K8s API——它们只需要用 CLI
这种设计让平台工程师和 agent 开发者各司其职:前者管 Helm values 和 RBAC,后者管 prompt 和工具逻辑。
我见过太多团队把这两件事混在一起:开发者直接写 Deployment YAML 部署 agent,平台团队事后才发现 Pod 有 NET_ADMIN capability、ServiceAccount 绑定了 cluster-admin。Hortator 从架构上就把这两个职责拆开了。
核心能力:三道护栏
我用了三个维度来评估 Hortator 是否值得写进这篇文章:安全、成本、可观测。在这三点上,它都比 "raw K8s Job + 一个 entrypoint 脚本" 的方案成熟得多。
1. 安全:能力继承 + NetworkPolicy 自动生成
这是我最在意的功能。
Hortator 引入了 capabilities 的概念:shell、web-fetch、spawn 等。你声明了能力,operator 自动做两件事:
- NetworkPolicy 自动生成 —
web-fetch只开放特定域名 egress,shell没有网络权限,没有声明的能力 = 零网络 - 能力继承 — 子 agent 不能请求父 agent 没有的能力。Centurion 只有
[shell], Legionary 就不能要[shell, web-fetch]
配合 Per-capability RBAC,每个 agent Pod 的 ServiceAccount 权限刚好够用,不多不少。
yaml
apiVersion: core.hortator.ai/v1alpha1
kind: AgentPolicy
metadata:
name: production-policy
namespace: ai-team
spec:
maxTier: centurion # 禁止生成 Tribune 级别
maxConcurrentTasks: 10
allowedCapabilities: [shell, web-fetch]
deniedCapabilities: [spawn] # 禁止递归 spawning
requirePresidio: true # PII 脱敏强制开启
maxBudget:
maxCostUsd: "5.00"
egressAllowlist:
- host: api.anthropic.com
ports: [443]
对比我们自己之前用 K8s Job + init container 的方案,Hortator 省掉了三块样板代码:NetworkPolicy 生成、ServiceAccount 最小权限、子任务完成后的结果传递。这三块看似简单,但在 agent 数量超过 50 个之后,手动维护的复杂度是指数级上升的。
2. 成本:预算 + LiteLLM 价格表 + 自动中断
Hortator 的预算模型是两层:
- Per-task:单个 agent 的 token 上限和 cost 上限
- Per-hierarchy:整个任务树共享预算
它内置了 LiteLLM 价格表,自动追踪不同 provider 的消耗。当预算耗尽时,agent 进入 BudgetExceeded 状态,不是粗暴杀掉,而是等当前 LLM 调用完成后再停止,避免丢上下文。
yaml
budget:
maxTokens: 100000
maxCostUsd: "0.50"
对我们这种有几百个并发 agent 的场景,这个设计能防止某个失控的 Tribune 把账单刷爆。我见过一个 LangGraph 工作流因为循环调用没跳出,一晚上跑了 200 万 token,账单出来的时候整个团队都沉默了。Hortator 的预算硬上限从架构上杜绝了这种问题。
3. 可观测:Prometheus + OpenTelemetry + "Stuck Detection"
Hortator 暴露了标准的 Prometheus metrics:
hortator_tasks_totalhortator_tasks_activehortator_task_duration_seconds
OpenTelemetry trace 直接把任务树映射成分布式追踪——在 Jaeger 里你能看到 Tribune → Centurion → Legionary 的完整调用链。
但我最喜欢的还是 行为层面的 stuck detection:不是看进程在不在,而是看 agent 是不是在 "进步"——监控工具多样性、prompt 重复率、状态陈旧度。如果一个 Legionary 连续 5 次发一样的 prompt,Hortator 会标记它为 stuck,自动 kill 或升级给人看。
这个设计解决了一个很实际的问题:很多 agent "看起来在跑" 但实际上在一个死循环里打转。传统的 health check 根本检测不出来。
安装部署:5 分钟跑起来
Hortator 的安装出奇简单,Helm chart 托管在 GHCR 上:
bash
helm install hortator oci://ghcr.io/hortator-ai/hortator/charts/hortator \
--namespace hortator-system --create-namespace \
--set models.default.endpoint=https://api.anthropic.com/v1 \
--set models.default.name=claude-sonnet-4-20250514
kubectl create namespace hortator-demo
kubectl create secret generic anthropic-api-key
--namespace hortator-demo
--from-literal=api-key=sk-ant-...
kubectl apply -f examples/quickstart/hello-world.yaml
kubectl get agenttasks -n hortator-demo -w
四个命令,operator 会创建 Pod、注入 prompt、跑 agent、收集结果、更新 CRD status。全程不需要你写任何 controller 代码。
**注意**:需要 K8s 1.28+,因为用到了 ephemeral containers 和一些新的 Pod lifecycle hook。我用 k3d 本地测试的时候,默认镜像pull的是 containerd,有时候 network policy 的 CNI 插件要确认是 Calico 或 Cilium,flannel 默认不支持 NetworkPolicy。
安装 CLI 工具(如果你想在本地调试 agent 逻辑):
```bash
bash
OS=$(uname -s | tr '[:upper:]' '[:lower:]')
ARCH=$(uname -m | sed 's/x86_64/amd64/' | sed 's/aarch64/arm64/')
curl -sSL "https://github.com/hortator-ai/Hortator/releases/latest/download/hortator_${OS}_${ARCH}.tar.gz" | tar xz
sudo mv hortator /usr/local/bin/
实战:三级任务链
Hortator 最 powerful 的地方是动态任务分解。我给你看一个完整的多级代理链:
yaml
apiVersion: core.hortator.ai/v1alpha1
kind: AgentTask
metadata:
name: redesign-auth
namespace: ai-team
spec:
prompt: "Redesign the auth system to support OAuth2 + SSO"
tier: tribune
timeout: 1800
budget:
maxTokens: 500000
maxCostUsd: "10.00"
capabilities: [spawn, shell, web-fetch]
model:
name: claude-sonnet
env:
- name: ANTHROPIC_API_KEY
valueFrom:
secretKeyRef:
name: llm-keys
key: anthropic
Tribune 跑起来后,它会自己决定需要三个 Centurion:
bash
hortator spawn --prompt "Design backend auth API" --role backend-architect --tier centurion
hortator spawn --prompt "Design frontend auth flow" --role frontend-architect --tier centurion
hortator spawn --prompt "Write integration tests" --role qa-engineer --tier centurion
每个 Centurion 又会生成 Legionary, Legionary 跑完写 /outbox/result.json,operator 自动传给父 Centurion 的 /inbox/, Centurion 聚合后再传给 Tribune。
整个过程是动态的,不是静态 DAG。DAG 需要你在 kubectl apply 之前把所有关系写死,而 Hortator 的任务树是 agent 在运行时根据实际情况决定的。
如果你想看任务树的可视化:
bash
hortator tree redesign-auth
这会在终端里打印出类似 tree 命令的层级结构,每个节点显示 phase、cost、duration。
常见坑
1. Helm values 的三层覆盖容易踩坑
Hortator 的配置有三层:Helm defaults → AgentRole → AgentTask,越具体优先级越高。我见过有人同时在 Helm values 和 AgentTask 里设了不同的 model,结果 agent 用了自己没想到的那个。
建议:Helm values 管全局默认(provider endpoint、image tag),AgentRole 管角色模板,AgentTask 管单次任务的 override。职责分开,问题就少。
2. NetworkPolicy 默认 deny-all
新安装的 Hortator 会生成一个 default-deny NetworkPolicy。如果你的 agent 需要访问外部 API(比如 OpenAI / Anthropic),必须 在 egressAllowlist 里显式声明,否则 agent 看起来 "跑起来了" 但实际上 LLM 调用超时。
这个坑我踩过,debug 了半天以为是 API key 错了。实际上 pod 的 egress 被 NetworkPolicy 拦了,kubectl logs 里能看到 connection timeout,但没有更详细的错误——agent 自己不会告诉你网络不通。
3. "Reincarnation" 不是银弹
Hortator 有个很酷的特性叫 "reincarnation":agent context window 满了之后,checkpoint 状态到 /memory/,杀掉 pod,用 fresh context window 重新 spawn,从 checkpoint 恢复。
听着很美好,但实际用的时候要注意:
- 不是所有 agent runtime 都正确实现了 checkpoint/restore 逻辑
- 如果你的 agent 有未完成的 tool call(比如一个长-running shell 脚本),reincarnation 不会等待它完成
- 频繁的 kill + respawn 会有冷启动延迟,算进 token budget 时要留余量
我建议第一次用的时候把 reincarnation 关掉,等 agent 的 checkpoint 逻辑跑顺了再开。
适用场景 vs 替代方案
什么时候用 Hortator
- 你需要 动态任务分解(problem 太大, upfront 规划不了所有步骤)
- 你已经在用 K8s,希望 agent workload 和现有平台共享基础设施
- 安全/成本护栏是硬要求(比如给客户跑 agent,或者公司合规要求)
- 你想用 CrewAI / LangGraph 作为 agent runtime,但需要 K8s 层面的隔离和生命周期管理
什么时候不用
- 你的 agent 很简单,单进程就能搞定 → 直接用 LangChain / CrewAI 够了
- 你需要静态 DAG 工作流 → Argo Workflows / Tekton 更成熟
- 你的团队没有 K8s 运维能力 → 别为了一个 operator 强行上
对比速查
| 方案 | 隔离粒度 | 任务树 | 成本控制 | 学习曲线 |
|---|---|---|---|---|
| Hortator | Pod + Policy | 动态运行时生成 | 原生支持 | 中等(需懂 K8s) |
| CrewAI/LangGraph | 进程 | 静态/框架内 | 无 | 低 |
| Argo Workflows | Pod | 静态 DAG | 无 | 高 |
| Raw K8s Job | Pod | 无 | 无 | 中等 |
收尾
我一开始对 Hortator 的预期是 "又一个 agent 框架",用了之后发现它定位完全不同——它不是帮你写 agent logic 的,而是帮你在 K8s 上安全地跑 agent。
这跟我之前写的 pv-migrate 系列思路一致:不是 reinvent the wheel,而是在现有基础设施上加一层适合新工作负载的抽象。
Hortator 现在还很早期(v0.x,MIT 协议,Go 写,K8s 1.28+),但它解决的是一个真实且紧迫的问题。随着 AI coding agent、multi-agent system 越来越主流,这种 "K8s-native agent runtime" 的需求会快速上升。
如果你已经在用 K8s 跑 agent,值得花一个下午把它的 quickstart 走一遍。如果你还没有 agent workload,Hortator 也是一个观察这个领域的好窗口。
参考链接:
- GitHub: https://github.com/hortator-ai/hortator
- Helm Chart: oci://ghcr.io/hortator-ai/hortator/charts/hortator
- Python SDK: https://github.com/hortator-ai/Hortator/tree/main/sdk/python
- TypeScript SDK: https://github.com/hortator-ai/Hortator/tree/main/sdk/typescript