云原生日报 2026-10-01

早上好,各位技术同学 ☕ 今天为大家精选了云原生领域的最新动态和几篇干货教程,一起看看 👇

🔥 云原生热点

1. Kubernetes Gateway API: Why Ingress Is Being Replaced

文章从 Service 的 NodePort/LoadBalancer 演进讲起,梳理 Ingress API 的诞生与其生产环境局限:API 面窄、扩展僵硬、缺少策略管控、跨命名空间支持不安全、职责边界模糊。作者以 NGINX Ingress Controller 将于 2026 年 3 月退役为背景,说明 Gateway API 为何成为继任者并给出迁移路径。

Gateway API 用 GatewayClass / Gateway / HTTPRoute 的角色分层,把基础设施团队与业务团队的职责拆开,这是 Ingress 靠注解堆砌无法解决的痛点。文章价值在于讲清“为什么要换”,而不只罗列新 CRD。国内团队若还在用 nginx-ingress 加大量 annotation 治路由,建议借 NGINX 退役窗口梳理入口架构,评估渐进迁移方案。

🔗 https://www.romaglushko.com/blog/k8s-gateway-api/

2. How GPU MIG + Kueue Can Transform Multi-Tenant AI Workloads on Kubernetes

文章指出共享集群上训练、微调、推理、Notebook 等混合 AI 负载普遍存在 GPU 利用率低、排队久、配额难管的问题,提出用 NVIDIA MIG 把单卡 A100/H100 切为多个硬件隔离实例,再叠加 Kueue 做队列与公平调度。文中给出 MIG profile 的资源请求写法、Job → LocalQueue → ClusterQueue 准入流程及多租户落地场景。

MIG 解决“GPU 怎么切”,Kueue 解决“谁先跑”,组合起来能把单卡利用率从常见的 20-30% 提升到 80% 以上,值得国内 AI 平台团队参考。落地难点不在装组件,而在 MIG profile 规格规划与 ClusterQueue/cohort 配额模型设计,需结合负载画像先做小范围灰度。另外 MIG 强绑定支持实例化的数据中心卡,老卡无法享受。

🔗 https://yesdeepakverma.medium.com/how-gpu-mig-kueue-can-transform-multi-tenant-ai-workloads-on-kubernetes-235423488b85

3. 谷歌开源面向自主 AI 代理的 Kubernetes 风格编排器 AX

InfoQ 报道谷歌开源 AX:一个 Apache 2.0 的声明式编排器与运行时,运行在 Agent Substrate 之上,把 AI 代理视为有状态 Actor 而非微服务。AX 提供 Task、Workspace、Gateway、Model 四个 K8s 风格原语,代理空闲时保存检查点并挂起,可亚秒级无冷启动恢复,并把数十个任务复用到共享工作进程以节省资源。

它最值得关注的是把“代理生命周期”抽象成一类新的编排原语,延续 K8s 控制平面哲学,而不是再造一个 LangGraph 式应用框架。社区争议也很真实:ko 加注册表加 CRD 的运维成本偏重,gVisor 隔离、出站代理中断等问题待验证。国内团队做长时 Agent 平台可参考其 Task/Workspace 模型,但短期上生产应谨慎。

🔗 https://www.infoq.cn/article/M6BRTrsyJvUg8y0M0kyh

📖 教程推荐

1. Kafka without ZooKeeper: My Strimzi HA Playbook on K8s

作者基于多年多区域 Strimzi Kafka 生产经验,给出 KRaft 模式的高可用清单:按可用区拆分 KafkaNodePool、控制器与 broker 分角色部署、开启 zone 级 rack awareness 并保证 Kafka 拓扑与节点亲和一致,用 Cruise Control 替代手工 rebalance。文中还列出踩过的坑与 G1 GC 等 JVM 调优参数。

这篇的含金量在于全是失败模式驱动的决策,而非又一份 Hello-World 清单,生产 Kafka 常见的坑基本都覆盖到了。硬反亲和、purpose=kafka 节点标签加污点、ExitOnOutOfMemoryError 让 OOM 的 broker 干净重启,这些细节国内做消息中间件的团队几乎可直接照抄。注意 Kafka 4.x 已彻底移除 ZooKeeper,存量集群迁移无法沿用本文路径。

🔗 https://dev.to/dshmatov/kafka-without-zookeeper-my-strimzi-ha-playbook-on-k8s-2m4n

2. Going 0 to 1 in Distributed LLM Inference on Kubernetes

文章以 llm-d 的 quickstart 为主线,讲解如何在 K8s 上搭建“生产级”分布式 LLM 推理:确认 GPU 节点与设备插件,再用 my-values.yaml 配置模型、tensorParallelSize、maxModelLen、KV prefix caching、predicted-latency 调度器与副本数,最后验证 Pod 与调度器指标。每一步都解释了背后机制。

分布式推理的难点不是把 Pod 跑起来,而是让请求按 KV 缓存亲和与预测延迟路由,文章把 scheduler 这层单独讲透,比多数 quickstart 有价值。对国内做推理平台的团队,llm-d 作为 K8s 原生方案比自研网关更容易纳入现有运维与可观测体系,值得放进选型对比。落地前先想清模型分发的 PVC 方案与 GPU 拓扑约束。

🔗 https://harinianand.substack.com/p/going-0-to-1-in-distributed-llm-inference


以上内容均已附原文链接,欢迎留言交流你的看法 💬