版本 & 如何刷新¶
基线:vLLM 0.26.0 · 模型 Qwen2.5-7B-Instruct · 单张 RTX 4090(24 GB)
本页是全站的维护姿态,不是一节课。它说明所有内容钉在哪个版本、为什么数字是示例、以及当 vLLM 向前迭代时刷新内容的确切步骤。
vLLM 迭代极快——API、flag、CLI 参数,乃至源码行号,都会在版本间变动。为了让代码在你机器上一比一跑通,本站钉定单一基线版本,并在每页页顶标注它(ADR-0004)。这段注记告诉你:作为读者这意味着什么;作为维护者,如何在 vLLM 前进时保持全站诚实。
钉住了什么¶
| 维度 | 基线 | 在哪体现 |
|---|---|---|
| vLLM | v0.26.0 | 每页页顶 callout(ADR-0004) |
| 模型 | Qwen2.5-7B-Instruct(量化) |
基线 callout;少数英文生态示例交叉引用 Llama-3.1-8B-Instruct(ADR-0001) |
| GPU | 单张 RTX 4090(24 GB) | 基线 callout(ADR-0001) |
| 源码导读 | 文件 / 符号 / 行号锚点对齐 v0.26.0 tag | Part 2 / 3 / 5 的源码导读段 |
个别讲最新特性的章节可能标注更高版本,并显式说明差异(ADR-0004)。永远以你所在页面页顶的 callout 为准。
文档工具链也钉住了¶
本站由 MkDocs Material + mkdocs-static-i18n + pymdown-extensions 构建,它们在 requirements.txt 里都被限制在当前大版本内(如 mkdocs-material>=9.5,<10),这样一次全新的 pip install 复现的是今天的渲染,而不会悄悄拉进一个破坏性 release。这一点当下就要紧:Material 团队已预告 MkDocs 2.0 将不向后兼容——插件与主题体系被重写、且无迁移路径——所以不设上界的升级会让构建崩掉。升级工具链时按升级 vLLM 的规矩来:只改一个依赖、跑 mkdocs build --strict、再肉眼核一页渲染(数学、提示框、语言切换)后才信它。
为什么数字是示例¶
遵循 ADR-0004,本站的验证是静态的:作者不执行 Lab、不复现数字。因此文中一切性能数字都是示例 / 量级参考——用来推理的「形状」,而非可直接引用的实测值。真实数字由你在自己的 AutoDL 环境,针对你自己的模型与流量复现。
纯算术的数字(KV 缓存大小、显存预算、roofline 算术强度)是精确的——它们只是乘法,不是 benchmark——并在出现处如此标注。
事实如何核实(双通道)¶
每一条 API/flag/CLI 断言、每一条概念断言,落地前都对照一手来源核实——绝不凭记忆:
- Context7 → vLLM(及相关库)的 API、flag、CLI——你实际敲下的具体签名。
- Sonar → 概念、论文与规格——算法出处、数值格式规格、硬件参数。
核实全程保持静态:不执行代码、不复现数字(ADR-0004)。它在源头拦住幻觉 flag 与张冠李戴的算法;它不会把示例数字变成实测数字。
当 vLLM 升级——刷新步骤¶
vLLM 的大版本发布会让基线示例逐渐过时。当你决定升级基线(这是一次刻意的、全站范围的动作——ADR-0004 把重核实推迟、不做自动化)时,按这份清单逐项过:
- 升级版本标注——受影响页面的页顶基线 callout,以及首页的基线表。
- 每个动过的 flag / API / CLI 都用 Context7 重核实,对照新版本的官方文档。不要假设任何东西自动沿用。
- 概念 / 论文 / 规格断言用 Sonar 重核实——凡是你深化或改动过的段落。
- 重新对齐源码导读锚点——Part 2 / 3 / 5 里的文件 / 符号 / 行号引用,必须指向新的 release tag,而非旧行号。
- 重跑 Lab 校准你在意的数字——在你的 AutoDL 环境,遵循 Capstone 的测量纪律(greedy、固定 seed、写明评测集)。只在你重新测过的地方更新数字;其余继续标为示例。
- 保持 build 绿——
mkdocs build --strict是唯一的结构闸门;坏链、孤儿页、i18n 缺口都会让它失败。
姿态是诚实但轻量:标好版本、核实你动过的部分、推迟一次完整重核实 sweep,而不是过早架起 CI。
发现版本漂移?开一张刷新 issue¶
若你遇到某个 flag 不再存在、代码跑不通、或某个数字对当前 release 明显偏离,请从仓库的issue 模板开一张 「内容刷新 / vLLM 版本升级」 issue。模板会带你走一遍上面同样的清单,确保不漏项。