K8s 上的 AI Agent 工厂:Hortator 让子代理在集群里安全降生

技术教程 · AI 与 AIOps · AI Agent · 2026-10-28

K8s 上的 AI Agent 工厂:Hortator 让子代理在集群里安全降生

我最近在调研一个真实痛点:AI Agent 跑在 K8s 上,到底该怎么管?

现在的方案两极分化。一边是 LangChain / CrewAI 这种 Python 框架——agent 跑在进程里,安全是安全,但根本没有真正的 autonomy,想调个 shell 还要你自己写 tool。另一边是那些 "terrifying cowboys"——直接 SSH 进集群,spawn 容器,curl | bash 随便跑,美其名曰 "autonomous",实际上是把生产环境当 playground。

去年我在公司内部推 AI coding agent 的时候,安全团队的原话是:"你让 agent 在集群里自己跑,等于给每个 LLM 响应开一个 root shell。" 这句话让我思考了很久。

我需要的中间态:agent 可以自己 spawn 子 agent、自己拆解任务、自己组合结果,但每一步都有边界。

Hortator 就是这个中间态。


它不是又一个 Agent 框架

先澄清一点:Hortator 不是 另一个 CrewAI / LangGraph 替代品。

它是一个 Kubernetes Operator,解决的是一个完全不同的问题:如何在 K8s 里安全地托管 AI Agent 的运行时。

你可以把 Hortator 理解成一个 "Agent Job Scheduler + Guardrail Enforcer":

这种设计让平台工程师和 agent 开发者各司其职:前者管 Helm values 和 RBAC,后者管 prompt 和工具逻辑。

我见过太多团队把这两件事混在一起:开发者直接写 Deployment YAML 部署 agent,平台团队事后才发现 Pod 有 NET_ADMIN capability、ServiceAccount 绑定了 cluster-admin。Hortator 从架构上就把这两个职责拆开了。


核心能力:三道护栏

我用了三个维度来评估 Hortator 是否值得写进这篇文章:安全、成本、可观测。在这三点上,它都比 "raw K8s Job + 一个 entrypoint 脚本" 的方案成熟得多。

1. 安全:能力继承 + NetworkPolicy 自动生成

这是我最在意的功能。

Hortator 引入了 capabilities 的概念:shell、web-fetch、spawn 等。你声明了能力,operator 自动做两件事:

  1. NetworkPolicy 自动生成 — web-fetch 只开放特定域名 egress,shell 没有网络权限,没有声明的能力 = 零网络
  2. 能力继承 — 子 agent 不能请求父 agent 没有的能力。Centurion 只有 [shell], Legionary 就不能要 [shell, web-fetch]

配合 Per-capability RBAC,每个 agent Pod 的 ServiceAccount 权限刚好够用,不多不少。

yaml
apiVersion: core.hortator.ai/v1alpha1
kind: AgentPolicy
metadata:
  name: production-policy
  namespace: ai-team
spec:
  maxTier: centurion                     # 禁止生成 Tribune 级别
  maxConcurrentTasks: 10
  allowedCapabilities: [shell, web-fetch]
  deniedCapabilities: [spawn]            # 禁止递归 spawning
  requirePresidio: true                  # PII 脱敏强制开启
  maxBudget:
    maxCostUsd: "5.00"
  egressAllowlist:
    - host: api.anthropic.com
      ports: [443]

对比我们自己之前用 K8s Job + init container 的方案,Hortator 省掉了三块样板代码:NetworkPolicy 生成、ServiceAccount 最小权限、子任务完成后的结果传递。这三块看似简单,但在 agent 数量超过 50 个之后,手动维护的复杂度是指数级上升的。

2. 成本:预算 + LiteLLM 价格表 + 自动中断

Hortator 的预算模型是两层:

它内置了 LiteLLM 价格表,自动追踪不同 provider 的消耗。当预算耗尽时,agent 进入 BudgetExceeded 状态,不是粗暴杀掉,而是等当前 LLM 调用完成后再停止,避免丢上下文。

yaml
budget:
  maxTokens: 100000
  maxCostUsd: "0.50"

对我们这种有几百个并发 agent 的场景,这个设计能防止某个失控的 Tribune 把账单刷爆。我见过一个 LangGraph 工作流因为循环调用没跳出,一晚上跑了 200 万 token,账单出来的时候整个团队都沉默了。Hortator 的预算硬上限从架构上杜绝了这种问题。

3. 可观测:Prometheus + OpenTelemetry + "Stuck Detection"

Hortator 暴露了标准的 Prometheus metrics:

OpenTelemetry trace 直接把任务树映射成分布式追踪——在 Jaeger 里你能看到 Tribune → Centurion → Legionary 的完整调用链。

但我最喜欢的还是 行为层面的 stuck detection:不是看进程在不在,而是看 agent 是不是在 "进步"——监控工具多样性、prompt 重复率、状态陈旧度。如果一个 Legionary 连续 5 次发一样的 prompt,Hortator 会标记它为 stuck,自动 kill 或升级给人看。

这个设计解决了一个很实际的问题:很多 agent "看起来在跑" 但实际上在一个死循环里打转。传统的 health check 根本检测不出来。


安装部署:5 分钟跑起来

Hortator 的安装出奇简单,Helm chart 托管在 GHCR 上:

bash
helm install hortator oci://ghcr.io/hortator-ai/hortator/charts/hortator \
  --namespace hortator-system --create-namespace \
  --set models.default.endpoint=https://api.anthropic.com/v1 \
  --set models.default.name=claude-sonnet-4-20250514

kubectl create namespace hortator-demo kubectl create secret generic anthropic-api-key
--namespace hortator-demo
--from-literal=api-key=sk-ant-...

kubectl apply -f examples/quickstart/hello-world.yaml

kubectl get agenttasks -n hortator-demo -w


四个命令,operator 会创建 Pod、注入 prompt、跑 agent、收集结果、更新 CRD status。全程不需要你写任何 controller 代码。

**注意**:需要 K8s 1.28+,因为用到了 ephemeral containers 和一些新的 Pod lifecycle hook。我用 k3d 本地测试的时候,默认镜像pull的是 containerd,有时候 network policy 的 CNI 插件要确认是 Calico 或 Cilium,flannel 默认不支持 NetworkPolicy。

安装 CLI 工具(如果你想在本地调试 agent 逻辑):

```bash
bash
OS=$(uname -s | tr '[:upper:]' '[:lower:]')
ARCH=$(uname -m | sed 's/x86_64/amd64/' | sed 's/aarch64/arm64/')
curl -sSL "https://github.com/hortator-ai/Hortator/releases/latest/download/hortator_${OS}_${ARCH}.tar.gz" | tar xz
sudo mv hortator /usr/local/bin/

实战:三级任务链

Hortator 最 powerful 的地方是动态任务分解。我给你看一个完整的多级代理链:

yaml
apiVersion: core.hortator.ai/v1alpha1
kind: AgentTask
metadata:
  name: redesign-auth
  namespace: ai-team
spec:
  prompt: "Redesign the auth system to support OAuth2 + SSO"
  tier: tribune
  timeout: 1800
  budget:
    maxTokens: 500000
    maxCostUsd: "10.00"
  capabilities: [spawn, shell, web-fetch]
  model:
    name: claude-sonnet
  env:
    - name: ANTHROPIC_API_KEY
      valueFrom:
        secretKeyRef:
          name: llm-keys
          key: anthropic

Tribune 跑起来后,它会自己决定需要三个 Centurion:

bash
hortator spawn --prompt "Design backend auth API" --role backend-architect --tier centurion
hortator spawn --prompt "Design frontend auth flow" --role frontend-architect --tier centurion
hortator spawn --prompt "Write integration tests" --role qa-engineer --tier centurion

每个 Centurion 又会生成 Legionary, Legionary 跑完写 /outbox/result.json,operator 自动传给父 Centurion 的 /inbox/, Centurion 聚合后再传给 Tribune。

整个过程是动态的,不是静态 DAG。DAG 需要你在 kubectl apply 之前把所有关系写死,而 Hortator 的任务树是 agent 在运行时根据实际情况决定的。

如果你想看任务树的可视化:

bash
hortator tree redesign-auth

这会在终端里打印出类似 tree 命令的层级结构,每个节点显示 phase、cost、duration。


常见坑

1. Helm values 的三层覆盖容易踩坑

Hortator 的配置有三层:Helm defaults → AgentRole → AgentTask,越具体优先级越高。我见过有人同时在 Helm values 和 AgentTask 里设了不同的 model,结果 agent 用了自己没想到的那个。

建议:Helm values 管全局默认(provider endpoint、image tag),AgentRole 管角色模板,AgentTask 管单次任务的 override。职责分开,问题就少。

2. NetworkPolicy 默认 deny-all

新安装的 Hortator 会生成一个 default-deny NetworkPolicy。如果你的 agent 需要访问外部 API(比如 OpenAI / Anthropic),必须 在 egressAllowlist 里显式声明,否则 agent 看起来 "跑起来了" 但实际上 LLM 调用超时。

这个坑我踩过,debug 了半天以为是 API key 错了。实际上 pod 的 egress 被 NetworkPolicy 拦了,kubectl logs 里能看到 connection timeout,但没有更详细的错误——agent 自己不会告诉你网络不通。

3. "Reincarnation" 不是银弹

Hortator 有个很酷的特性叫 "reincarnation":agent context window 满了之后,checkpoint 状态到 /memory/,杀掉 pod,用 fresh context window 重新 spawn,从 checkpoint 恢复。

听着很美好,但实际用的时候要注意:

我建议第一次用的时候把 reincarnation 关掉,等 agent 的 checkpoint 逻辑跑顺了再开。


适用场景 vs 替代方案

什么时候用 Hortator

什么时候不用

对比速查

方案隔离粒度任务树成本控制学习曲线
HortatorPod + Policy动态运行时生成原生支持中等(需懂 K8s)
CrewAI/LangGraph进程静态/框架内无低
Argo WorkflowsPod静态 DAG无高
Raw K8s JobPod无无中等

收尾

我一开始对 Hortator 的预期是 "又一个 agent 框架",用了之后发现它定位完全不同——它不是帮你写 agent logic 的,而是帮你在 K8s 上安全地跑 agent。

这跟我之前写的 pv-migrate 系列思路一致:不是 reinvent the wheel,而是在现有基础设施上加一层适合新工作负载的抽象。

Hortator 现在还很早期(v0.x,MIT 协议,Go 写,K8s 1.28+),但它解决的是一个真实且紧迫的问题。随着 AI coding agent、multi-agent system 越来越主流,这种 "K8s-native agent runtime" 的需求会快速上升。

如果你已经在用 K8s 跑 agent,值得花一个下午把它的 quickstart 走一遍。如果你还没有 agent workload,Hortator 也是一个观察这个领域的好窗口。


参考链接: