Aik8s

AI/LLM on Kubernetes 基础设施知识库

Hi~你好👋, 这里是 runzhliu 的工作笔记，我是一名在 AI/LLM/大数据/Kubernetes 领域工作了十年的工程师，同时我也是一个记录狂人🤔，特别爱记笔记，这个站点是我基于这几年在 AI/LLM Infras 的工作经历总结的一些笔记，同时也经过一些大模型的润色发布的，希望和大家一起交流和学习，一起在大模型时代做一点🤏小事，无论是内容本身还是工作，欢迎大家找我交流😄👏!(runzhliu@163.com)

面向平台工程师、SRE、训练和模型服务团队的 AI/LLM on Kubernetes 工程文档。

内容覆盖 GPU 与异构加速器、调度队列、RDMA、数据与模型分发、分布式训练、LLM 推理、RAG、Agent Sandbox、GPU Notebook、可观测性、安全、成本和生产运维。文档重点说明组件边界、选型条件、关键指标、故障路径和上线检查，而不只是罗列工具名称。

线上站点：[https://aik8s.run/](https://aik8s.run/)

关注微信公众号

更多 AI/LLM on Kubernetes 实战、部署记录与性能分析会同步到微信公众号 **AI-K8S技术工程**。使用微信扫描二维码，或在“微信搜一搜”中搜索 `AI-K8S技术工程`：

技术栈

• Markdown 保存文档内容；
• Zensical 构建静态站点；
• zensical.toml 管理导航、主题和站点配置；
• GitHub Actions 在 main 分支更新后完成构建与部署。

本地预览

项目默认使用 Docker，因此不需要在本机安装 Python 依赖：

make dev

打开 。修改 `docs/` 下的文件后，页面会自动刷新。

也可以使用 Python 虚拟环境：

python3 -m venv .venv
.venv/bin/python -m pip install -r requirements.txt
.venv/bin/zensical serve

验证构建

make build

构建结果保存在 `site/`，该目录不会提交到 Git。

生产构建还会生成 RSS/Atom、带更新时间的 Sitemap、页面分享、社交元数据和 TechArticle/BreadcrumbList 结构化数据，并注入站点统计脚本：

make build-production

订阅、分享与评论

• RSS：https://aik8s.run/rss.xml
• Atom：https://aik8s.run/atom.xml
• 通用 Feed 地址：https://aik8s.run/feed.xml
• 每篇文章支持系统分享、复制链接，以及微博、X、LinkedIn、Telegram 和 WhatsApp 分享；移动端可通过系统分享面板转发到微信等已安装应用。
• 评论使用 Giscus，内容保存在本仓库的 GitHub Discussions，不需要单独部署服务或数据库。

首次启用评论时，需要为 `runzhliu/aik8s` 安装 [Giscus GitHub App](https://github.com/apps/giscus/installations/new)，安装范围选择 **Only select repositories** 并只勾选 `aik8s`。仓库必须保持 Discussions 已启用。

添加内容

在 `docs/` 中创建文件夹和 Markdown 文件即可。目录名和文件名会形成公开 URL，建议只使用小写英文字母、数字和连字符；中文展示名称放在一级标题或 `zensical.toml` 的 `nav` 配置中。

每个栏目建议添加一个 `index.md`：

docs/
└── kubernetes/
    ├── index.md
    ├── basic-concepts.md
    └── cl