流水线提速:并行、缓存与增量
本篇要点:学会定位流水线的时间去哪了,并用并行、缓存、增量三类手段把它压下来,还能算出省了多少。前置文章:[《构建可复现:依赖锁定与多阶段镜像》](/guide/cicd/build-reproducibility.html)为了构建可复现,我们引入了冻结安装和 digest,这一章要把这些代价换成速度。
一、为什么需要它
一个 40 人的研发团队,2026 年 5 月的流水线中位耗时 38 分钟。表现是:合并请求提上去,去吃个午饭,回来发现失败在第 6 分钟的 lint;改一行再推,又等 38 分钟。团队里的资深工程师开始绕过 CI 直接合并,理由是「等不起」。
运维同学的直觉是加机器。runner 从 4C8G 升到 16C32G,耗时只降到 31 分钟,三倍的钱换来 18% 的改善。瓶颈不在算力:整条流水线纯串行,lint 跑完才跑测试,测试跑完才打镜像,打镜像时 16 个核里 15 个闲着。
拆开看那 38 分钟:npm ci 6 分 50 秒,lint 2 分 10 秒,单元测试 11 分 20 秒,集成测试 9 分 40 秒,镜像构建 6 分 30 秒,其余 1 分半是排队和 checkout。里面有三类不同的问题。
第一类是串行:lint 和单元测试互不依赖,却在排队。第二类是全量重算:npm ci 每次从公网拉 800MB 依赖,明明 package-lock.json 没变。第三类是缓存策略错位:缓存了 ~/.npm,而 npm ci 会绕过它重新下载,命中率不到 20%。
提速不等于让每个步骤变快,等于让墙钟时间(wall-clock time,从排队到结束的真实耗时)变短。两者经常背道而驰:并行会让总 CPU 时间上升,缓存会让存储成本上升。
二、核心概念
5.1 先拆耗时,再动手
优化的第一步不是改配置,是拿到一张耗时表。要拆到「阶段 × 步骤」的粒度,且必须包含排队时间和 checkout 时间——这两段经常被忽略,在共享 runner 上能占到三成。
三个来源按可信度排序:平台自带的阶段耗时视图(GitHub Actions 的 job 时间线、GitLab 的 CI/CD > Pipelines > Performance)粒度到 job;构建脚本里用 date +%s 打点,粒度到命令;docker build --progress=plain 的输出能到层的粒度。
拆完做一件事:把每一步标成「必须等前一步」还是「可以同时」。标完的自然结果就是一张依赖图,而不是一条队列。图 5-1 是改造前后的对照。
图 5-1 串行链与依赖图的差别:改造后关键路径从 6 段变成 4 段,横向多出的并行分支不占用墙钟
如图 5-1 所示,改造后的墙钟时间由最长的那条路径决定,即 checkout → 依赖 → 集成测试(6m) → 镜像(2m20s),合计约 10 分钟。分片让单测从 11 分 20 秒降到 4 分钟,但因为它不是关键路径,对总时间没有贡献——这一点后面会再提。
5.2 并行与分片是两个动作
并行(parallelism)是把互不依赖的 job 同时跑起来。分片(sharding)是把一个长 job 切成 N 份同时跑,每份处理一部分测试。
分片要求测试用例彼此独立。共享数据库状态的测试被切到两个分片,会互相污染,表现为「本地全过,CI 随机挂」。分片前先跑几次 --sequence.shuffle 随机顺序,能过再切。
分片的收益不是线性的。切成 4 份不等于快 4 倍:每份都要 checkout、装依赖、启容器,这是启动开销;最慢的那个用例决定分片何时结束,这是长尾。11 分 20 秒的测试切 4 份,实测 4 分钟出头,加速比约 2.8 倍;切到 8 份只到 3 分钟,启动开销开始占主导。
有个硬约束:并行度受上游许可限制。免费或低配的 runner 池同时可跑的 job 数有限,把 8 个分片塞进 2 个并发槽位,结果是排队,墙钟时间反而更长。改并行前先确认并发配额。
5.3 缓存命中率是唯一要看的缓存指标
缓存(cache)的核心指标是命中率(hit rate),不是缓存大小。一个 8GB 的缓存目录,命中率 15%,等于每次都在下载并解包 8GB。
缓存能不能命中,取决于键(cache key)怎么设计。键要包含全部影响结果的输入,且只包含这些。Node 依赖的键应当是 lockfile 哈希,不是分支名,也不是 v1 这种手写版本号。用分支名做键,每个分支一份缓存,主分支每次 miss;用 lockfile 哈希,依赖不变就一直命中。
GitHub Actions 的 actions/cache 语义要记清:默认行为是命中即不写,所以一个键一旦写入就不会被更新;restore-keys 做前缀回退,能拿到旧的近似缓存(partial hit),此时会触发一次新的保存。GitLab CI 的 cache:key:files 用文件内容算哈希,语义更直接。
缓存的三个坑按频率排:
- 缓存了错的目录。
~/.npm只是元数据缓存,npm ci会绕过它重新下载;该缓存~/.npm/_cacache或直接用 pnpm 的 store。 - 缓存跨平台污染。在 arm64 的 runner 上生成的
node_modules被 arm 之外的 runner 复用,原生模块(esbuild、sharp、bcrypt)的二进制不匹配,报Exec format error。键里要带runner.os和runner.arch。 - 缓存里塞了构建产物。缓存负责加速「取依赖」,不负责「传产物」;产物走 artifact,要可审计、有保留期。
5.4 镜像层复用与远端缓存
Docker 构建的缓存单位是层。层的键由「父层 digest + 本条指令 + 该指令涉及的文件内容」算出来,任何一项变了,这一层及之后全部失效。
所以 Dockerfile 的指令顺序很重要。COPY package.json pnpm-lock.yaml 写在 COPY . . 前面,改业务代码不让 RUN pnpm install 失效;顺序反过来,改一行代码就要重装依赖。
本地缓存到 CI 就没了,因为每次都是新容器。要跨构建复用,得用远端缓存(remote cache)。BuildKit 支持两种后端:
| 后端 | 参数 | 特点 |
|---|---|---|
| registry 内联缓存 | --cache-to type=registry,ref=.../app:buildcache,mode=max | 复用镜像仓库,无需额外服务;mode=max 才包含中间层 |
| registry 独立镜像 | 同上,--cache-from type=registry,ref=... | 需同时给 --cache-from,否则读不到 |
| 本地目录 | --cache-to type=local,dest=/tmp/cache | 适合单机持久化 runner,跨机器无效 |
| GitHub Actions | --cache-to type=gha,mode=max --cache-from type=gha | 由 docker/build-push-action 内置支持 |
| S3 / MinIO | --cache-to type=s3,... | 多 runner 共享,成本可控 |
mode=max 和默认 mode=min 的区别常被误解:min 只导出最终镜像的层,max 导出所有中间层。多阶段构建里 builder 阶段的层只在 max 下可复用,所以带多阶段的 Dockerfile 必须用 max。远端缓存要生效必须用 BuildKit 构建器,docker build 在 Docker 23 之后默认走 BuildKit,但只有 docker buildx build 能指定 --cache-to。
5.5 收益量化:两个口径都要算
优化上线后要能回答「值不值」。两个口径缺一不可。
墙钟时间(wall-clock)是开发者体感,也是合并请求的等待时间。中位数比平均值可信,因为偶发的全量构建会拉高平均值。看 P50 和 P90 两个数。
成本是另一侧。并行和分片会推高总 CPU 分钟数。GitHub Actions 按 runner 分钟计费,Linux 2 核 runner 的公开价格是每分钟 0.008 美元(截至 2026 年 11 月,私有仓库;公开仓库免费)。一次 4 分片的单测,用 4 台 2 核跑 4 分钟是 16 分钟计费,原来单台跑 11 分 20 秒是 11.3 分钟。时间省了 7 分钟,成本多了 42%。
真实的决策式子是:节省的等待时间 × 人数 × 时薪 > 增加的 runner 成本。40 人团队每天 60 次构建,每次省 25 分钟,一天省 25 小时等待;这些时间不是全在空转,保守打三折也有 7.5 小时,远超多出来的费用。这个算式要写进提案,否则优化会被当成运维的个人爱好。
三、动手实践
环境:GitHub Actions(ubuntu-24.04 runner)、Docker 27 以上、pnpm 10、Node 22。
步骤一:把耗时打出来
先用时间戳把每个阶段的实际耗时记下来,不要靠感觉:
name: ci
on: [push]
jobs:
build:
runs-on: ubuntu-24.04
steps:
- uses: actions/checkout@v4
- name: 标记起点
run: echo "T0=$(date +%s)" >> "$GITHUB_ENV"
- uses: pnpm/action-setup@v4
with: { version: 10 }
- name: 依赖
run: |
pnpm install --frozen-lockfile
echo "STEP deps: $(( $(date +%s) - T0 ))s" >> "$GITHUB_STEP_SUMMARY"
- name: 测试
run: |
before=$(date +%s)
pnpm vitest run
echo "STEP test: $(( $(date +%s) - before ))s" >> "$GITHUB_STEP_SUMMARY"运行结果:job 页面的 Summary 出现两行 STEP deps: 411s、STEP test: 680s。这是改造前的基线,一定要先记下来——没有基线的优化,事后无法证明有效。
步骤二:依赖缓存,键用 lockfile 哈希
- uses: actions/cache@v4
with:
path: ~/.local/share/pnpm/store
key: pnpm-${{ runner.os }}-${{ runner.arch }}-${{ hashFiles('pnpm-lock.yaml') }}
restore-keys: |
pnpm-${{ runner.os }}-${{ runner.arch }}-
- run: pnpm install --frozen-lockfile --prefer-offline运行结果:第一次构建日志出现 Cache not found for input keys: pnpm-Linux-X64-9f2c...,依赖阶段仍约 410 秒,结束时输出 Cache saved successfully。第二次同 lockfile 的构建出现 Cache restored from key: pnpm-Linux-X64-9f2c...,依赖阶段降到 65–75 秒。
键里带 runner.arch 是为了避免步骤 5.3 提到的原生模块错架构问题。真正的命中率要去看仓库的 Actions 缓存列表,pnpm- 前缀下各键的最后使用时间——一个月没被用过的键,说明键设计有问题。
步骤三:测试分片
Vitest 支持按文件切分片,配合矩阵(matrix)一次跑完:
test:
runs-on: ubuntu-24.04
strategy:
fail-fast: false
matrix:
shard: [1, 2, 3, 4]
steps:
- uses: actions/checkout@v4
- uses: pnpm/action-setup@v4
with: { version: 10 }
- run: pnpm install --frozen-lockfile --prefer-offline
- run: pnpm vitest run --shard=${{ matrix.shard }}/4 --reporter=dot运行结果:4 个并行 job,--shard=1/4 到 --shard=4/4,各自耗时 3 分 50 秒到 4 分 30 秒,最慢的那个决定总时间。fail-fast: false 是必要的,否则一个分片失败会取消其余分片,看不到全貌。
分片前先确认用例独立性:pnpm vitest run --sequence.shuffle 跑三遍,全过再切。有共享状态的用例会在分片后变成偶发失败,而偶发失败比慢更难查。
步骤四:镜像远端缓存
- uses: docker/setup-buildx-action@v3
- uses: docker/build-push-action@v6
with:
context: .
push: true
tags: registry.corp.example.com/pay:${{ github.sha }}
cache-from: type=gha
cache-to: type=gha,mode=max运行结果:首次构建日志末尾有 exporting cache to GitHub Actions cache;第二次构建的层输出里出现 CACHED [builder 4/6] RUN pnpm install --frozen-lockfile,镜像构建从 6 分 30 秒降到 2 分 20 秒。
如果第二次仍全部重建,先确认写没写 mode=max。mode=min 下 builder 阶段的层不进缓存,这是最常见的「配了缓存却不命中」。
步骤五:算收益
把改造前后的数字填进同一张表,随优化提案一起提交:
改造前 改造后 差值
墙钟 P50 38m10s 9m05s -29m05s
墙钟 P90 47m30s 12m20s -35m10s
runner 分钟/次 38.2 61.5 +23.3
月成本 $214 $344 +$130运行结果:单次构建成本上升 61%,但墙钟时间下降 76%。按 40 人团队、每天 60 次构建、等待时间打三折折算,每月回收约 190 个开发者小时,远大于 130 美元。
四、常见误解
很多人以为加机器就能解决慢,实际上串行流水线加机器几乎没有收益。16 核跑一条单线程的串行链,利用率不到 10%。先改结构再改规格:把 lint、单测、集成测试、镜像构建拆成有依赖关系的 DAG,同样 4 核机器的墙钟时间能从 38 分钟到 15 分钟。
很多人以为缓存配了就会命中,实际上命中率取决于键的设计和缓存内容对不对。缓存 node_modules 本身是常见错误——它包含绝对路径和平台相关的二进制,跨机器复用会出各种 ENOENT、Exec format error。该缓存的是包管理器的全局 store,让安装动作去 link,而不是搬整个目录。
很多人以为分片越多越快。分片有固定的启动开销,每片都要 checkout、装依赖、启服务,这部分在 4 片时约占 40 秒,在 8 片时占 80 秒以上。同时并发配额是硬限制,超出就排队。经验值是把单片时间压到 3–5 分钟就够,继续切收益递减。
还有人以为优化一次就一劳永逸。依赖会变多、测试会变长、镜像会变厚,三个月后耗时会悄悄回到 20 分钟。把流水线 P50 耗时做成看板上的常驻指标,超过阈值就有人看,比一次性突击可靠。
五、小结
[《构建可复现:依赖锁定与多阶段镜像》](/guide/cicd/build-reproducibility.html)为了可复现增加了不少约束,这一章证明这些约束不用拿速度去换。
- 优化从耗时表开始,必须包含排队与 checkout;拆到「阶段 × 步骤」并标注依赖关系。
- 墙钟时间由最长路径决定,不在关键路径上的优化不改善体感。分片前先确认它是不是瓶颈。
- 缓存只看命中率。键用 lockfile 哈希并带上
os与arch,缓存包管理器 store 而不是node_modules。 - 镜像缓存要
mode=max才能复用多阶段构建的中间层,且必须用 buildx 才能指定--cache-to。 - 收益要算两个口径:墙钟 P50/P90 与 runner 成本。只报时间不报钱的提案,通常过不了评审。
六、相关文章
到这里,构建可靠了、速度也上来了,但流水线跑在什么环境里这件事一直含糊着:.env 文件在本地和 CI 里内容不同,测试环境的数据库地址写死在脚本里,生产密钥由三个人手工贴进平台。「同一份构建」能不能在三个环境里表现一致,靠的不是运气。[《环境与配置管理》](/guide/cicd/env-config-management.html)讲环境与配置管理:环境怎么分级、配置怎么外置、密钥怎么注入与轮换,以及怎么发现并治理环境漂移。
继续阅读:[《环境与配置管理》 环境与配置管理](/guide/cicd/env-config-management.html)