搜索
四年前，法国举办的一场 CNCF 大会上，主持人向台下的大模型创业者抛出一个常规问题：“Kubernetes 能为 AI 带来什么？”
Microsoft 发布了 一个用于在 Azure Kubernetes 服务 上路由智能体流量的参考架构。它将这个问题分解为三个关键选择：由哪个模型响应调用、如何管理调用，以及由哪个 GPU 副本处理调用。
刚刚，OpenClaw 在 GitHub 上已经冲到 19 万颗星了。而这几乎都来自过去半个月，它已经成为了 GitHub 史上增长速度最快的开源 AI 项目。19 万颗星意味着，它正在成为一种新的「事实标准」。作为对比，过去十年最重要的基础软件之一 Kubernetes，在 GitHub 上目前是 12 万星，而 Linux 内核经过多年的积累是 19.5 万星。
随着人工智能技术的快速发展，大语言模型在自然语言处理领域引发了深刻变革。大语言模型在实际应用中的使用越来越广泛，这些模型通常部署在云原生的基础设施上，需要复杂的流量管理机制以确保服务的稳定性、性能、可扩展性和成本效益。在 Kubernetes（K8S）这一容器编排标准中，现有的 Ingress 组件的流量转发机制提供了基于主机名和请求路径的基本流量路由功能。
OpenAI宕机因Kubernetes监控服务过载，承诺改进排障及预防措施。