治理落地:Service Mesh 与应用内 SDK
本篇要点:能把超时、重试、mTLS、灰度路由这些规则分配到网格或应用内 SDK 两个落点,并给出可回退的迁移顺序。前置文章:《可观测性:链路追踪与统一采集》讲了链路追踪与统一采集,你已经能让一次跨服务调用被看见;这一章决定那些规则写在哪个位置。
为什么需要它
2026 年 9 月的一次 Istio 升级演练,把版本从 1.30 挪到 1.31(1.31.0 于 2026-08-31 发布)。演练结束,四条业务线的 P99 一起抬了三百多毫秒。
查了两天,问题跟新版本无关。三年前写的一套 Feign 客户端治理里,同一个下游调用的读超时配了 800ms;VirtualService 里配了 3s;中间还夹着一层 Nacos 的权重。那几年网格只管南北向(north-south,集群外的客户端打到入口),东西向(east-west,服务与服务之间)走的是老 SDK,两份超时各管一段,从没撞上。这次演练顺手把东西向也纳进了网格,它们第一次见面。
这不是配置写错,是治理规则有了两个落点。规则写在哪,就从哪一层生效;两处都写,谁生效取决于哪一层先截住请求。当一个组织同时维护两套落点,排障的第一个问题会从"哪里出错了"变成"这条规则在哪一层生效",而这个问题没法靠看日志回答。
SDK 方案真正的成本也不在依赖重。公司 14 个团队,只有 3 个团队会写熔断降级规则,另外 11 个复制粘贴,参数从来没改过。熔断阈值、重试次数、超时时间写在 14 份 bootstrap.yml 里,改一次策略要发 14 个 PR、协调 14 个发布窗口。把治理规则往网格搬的动机是这一条,跟性能无关。
反过来,SDK 也有网格给不了的东西。SDK 知道这次调用是"查订单",可以在拦截器里给下游打一个业务级灰度标;网格看到的是 POST /api/order/query 这个 URL,它不知道这条请求属于哪次营销活动。业务语义一旦搬进网格,就要开始写自定义 header 匹配,写到第九条规则时会很难维护。
所以这一章要回答的不是"选网格还是选 SDK",而是"哪一类规则归哪边",以及搬过去之后怎么退回来。
核心概念
数据面与控制面
Service Mesh(服务网格)把代理从业务进程里抽出来单独跑。数据面(data plane)是真正转发请求的代理,控制面(control plane)负责下发配置,Istio 里是 istiod。类比交通:数据面是每个路口的信号灯,控制面是指挥中心;信号灯不认路,只执行中心下发的相位。
分清这两层的用处是排障。规则不生效时,先确认它有没有被控制面接受(istioctl analyze),再看数据面有没有按预期执行;两件事的原因完全不同。
Sidecar:每个 Pod 一个代理
sidecar 模式给每个业务 Pod 注入一个 Envoy 容器,入向和出向流量被劫持进代理。它的成本可预测但不可压缩:每个 Pod 都要为最坏情况预留内存和 CPU,而预留的大部分时间闲着。
反例判断很实用:如果在 Pod 里 curl localhost:8001 通、集群里另一个 Pod 调这个 8001 端口不通,先怀疑入向劫持与端口声明,而不是业务端口没监听。
Ambient(sidecarless):代理下沉到节点
ambient 模式分两层。L3/L4 交给节点上的 ztunnel(Rust 编写,以 DaemonSet 形态跑)负责 mTLS 和四层授权;需要 L7(应用层,能看 HTTP 头和路径)能力的命名空间再单独挂一个 waypoint,也就是按命名空间部署的 Envoy。
截至 2026 年 11 月,Istio 1.32.0(2026-11-09 发布)支持 Kubernetes 1.33 到 1.37;ambient 从 1.22 起单集群生产可用,到 1.32,ztunnel 和 waypoint 这两个组件本身在特性阶段表里已标为 Stable,多网络多集群仍是 Beta。这句 Stable 修饰的是组件,不是跑在组件上的所有路由规则,两者要分开读。版本与阶段划分以 Istio 发布公告 为准。
图 10-1 sidecar 与 ambient 两种数据面的请求路径
如图 10-1 所示,两种模式的差别不在"有没有代理",在代理的位置和粒度。资源账因此从"每个 Pod 预留最坏情况"变成"按节点、按命名空间分摊"。Istio 文档给的延迟数字是:p90/p99 下 sidecar 0.63–0.88ms,ambient 0.16–0.20ms,走 waypoint 0.40–0.50ms。
这组数字的态度应该是:趋势可信,绝对值别抄。在 4C8G 节点上实测,只有 L4 的链路确实比 sidecar 干净;一旦某个命名空间挂了 waypoint,那部分延迟回到 sidecar 附近,因为 L7 解析的工作量不会因为换了位置就消失。
ambient 真正改变判断的是入网操作。sidecar 模式加一个命名空间进网格,要给所有 Pod 打标签再重启一遍;ambient 只给命名空间打标签,Pod 不用动。一个 400 多 Pod 的订单域,协调 14 个团队的发布窗口花了六周。这条跟性能无关,但它决定了敢不敢在生产上试——试错了把标签去掉就行。
治理规则的落点:需不需要知道业务含义
这条线最终落在一个问句上:这条规则需不需要知道业务含义。需要知道"这次请求是谁、属于哪次活动、幂等键是什么"的,留在 SDK;只需要知道"从哪来到哪去、什么协议、什么路径、TLS 有没有"的,放网格。
按这条线,东西向的 mTLS、四层授权、重试预算、超时上限归平台组一个仓库管;灰度标、幂等键、降级兜底留在 SDK。落点一旦确定,就不要在另一层重复配置同一个语义——《容错:限流、熔断、隔离与降级》已经讲过,超时和重试在两个地方各配一份,只会互相放大。
扩展点:EnvoyFilter 与 Wasm
EnvoyFilter 是直接改 Envoy 配置的逃生口,Wasm 插件是可编程过滤器。这两个扩展点决定了一条存量补丁能不能跟着迁移,而不是迁移完成后再补。
动手实践
目标:在一个测试命名空间上验证三件事——Pod 有没有被注入、探针有没有被改写、ambient 能不能只靠标签入网。
第一步,确认注入与探针改写。Istio 会把 HTTP 探针改写为打到 sidecar agent 的 15020 端口,路径变成 /app-health/<容器名>/livez,由 sidecar 代为转发;kubelet 没有 Istio 签发的证书,mTLS 一开,不改写就探不通。
# 查看探针是否被改写,以及容器列表里有没有 istio-proxy
kubectl get pod "$POD" -n prod -o json | jq '.spec.containers[0].livenessProbe.httpGet'
kubectl get pod "$POD" -n prod -o jsonpath='{.spec.containers[*].name}'预期输出:第一行 port 从 8001 变成 15020,path 变成 /app-health/order-api/livez,scheme 为 HTTP;第二行是 order-api istio-proxy。如果第一行还是 8001、第二行没有 istio-proxy,说明这个 Pod 根本没被注入,后面的验证都不必做。
这里有一条必须记住的差别:开了 sidecar 之后,TCP 存活探针会永远通过。入向流量被全部劫持进 sidecar,Pod 里每个 TCP 端口看起来都有进程在监听,而 kubelet 只检查"端口有没有人应答",业务进程死锁、卡在 GC 里,探针照样绿。把存活探针改成 HTTP,是上 sidecar 之前的前置动作,不是可选项。
第二步,用标签把命名空间加进 ambient,不重启任何 Pod。
kubectl label namespace prod istio.io/dataplane-mode=ambient
istioctl ztunnel-config workloads -n prod预期输出:先打印 namespace/prod labeled,随后 workload 列表里 prod 下的 Pod 都出现 PROTOCOL 为 HBONE、NODE 列指向所在节点,且容器列表里没有 istio-proxy。要退出,把标签删掉即可——kubectl label namespace prod istio.io/dataplane-mode- 会打印 namespace/prod unlabeled,Pod 依旧不需要重启。
第三步,SDK 侧只保留业务语义的配置。
# 留在 SDK 侧:只保留业务语义,不再配超时和重试
spring:
cloud:
openfeign:
client:
config:
order-service:
connectTimeout: 300 # 建连兜底;读超时交给网格统一管
loggerLevel: basic
requestInterceptors:
- com.example.gray.GrayHeaderInterceptor预期输出:服务启动日志出现 GrayHeaderInterceptor 已注册,抓一次出向请求能看到多出 x-gray-tag 头;同时在网格侧 VirtualService 里按这个 header 做路由,两端职责不重叠。
能力矩阵这一张表是迁移评审时最该先看的一页。
| 能力 | sidecar | ambient | 判断 |
|---|---|---|---|
| Pod 级 mTLS、L4 授权 | Stable | Stable | 两者都可直接上生产 |
| header 路由、路径授权 | Stable | 需 waypoint,VirtualService 仍为 Alpha | 规则复杂时先留 sidecar |
EnvoyFilter 打补丁 | 支持 | 不支持 | 有存量补丁的,不能迁 |
| Wasm 插件 | 支持 | waypoint 上为 Alpha | 别在生产赌 |
| 虚拟机纳管 | 支持 | 仅 Kubernetes | 混合部署必然并存 |
| 多网络多集群 | Stable | Beta | 跨集群场景暂不动 |
| 入网格操作 | 打标签 + 重启 Pod | 只打标签 | ambient 更适合渐进试点 |
表里第三行是最容易出事的一条:ambient 模式不支持 EnvoyFilter API。历史上有一个用它打进去的 Lua 脚本,专门补一个老系统的 header 兼容问题,迁 ambient 那天静默失效,没有任何报错,只是下游开始返回 400。能跑在 sidecar 上的补丁,不等于能跑在 ambient 上。
迁移顺序按这张表倒着排:先迁只有 L4 需求的命名空间,再迁有 L7 但规则简单的,最后才碰有 EnvoyFilter、Wasm 或虚拟机混部的。每一档都留一次标签回退的演练。
常见误解
很多人以为 ambient 省下来的是 CPU,其实省的是每个 Pod 的预留和重启成本。 七成闲置内存从"每个 Pod 预留"变成"节点上 ztunnel 的固定开销",节点密度越高越划算;节点上只跑三五个 Pod 的集群,ambient 反而更贵。
很多人以为 sidecarless 意味着所有能力都变轻,其实只有 L4 变轻。 一旦要 header 路由、按路径授权、Wasm,就得起 waypoint;1.32 的 waypoint 上 DestinationRule 是 Stable,VirtualService 还是 Alpha,Gateway API 里 HTTPRoute、GRPCRoute 在 stable channel,TLSRoute、TCPRoute 还是 Alpha。
很多人以为网格能让慢接口变快,其实它只让流量切分和观测变细。 见过两个团队上网格的真实目的是"想要链路追踪",那直接上 OpenTelemetry 更省事,还不用动数据面。
还有两种情形,直接说别上。服务数量少于二十个、团队少于三个,治理策略写在 SDK 里的维护成本,比养一套控制面加两个懂 Envoy 的人便宜;核心矛盾是"某个接口太慢",网格不解决,它不会让你的 SQL 变快。
小结
- 治理规则的成本主要来自落点分散,不是依赖体积。14 份
bootstrap.yml改一次策略要发 14 个 PR,这才是迁网格的真实动机。 - 划线的问句是"这条规则需不需要知道业务含义":不需要的放网格,需要的留 SDK。
- ambient 只让 L4 变轻;L7 要起 waypoint,而 waypoint 上
EnvoyFilter不可用、VirtualService仍是 Alpha。 - 开 sidecar 之后 TCP 探针永远通过,必须改 HTTP 探针并调大
initialDelaySeconds,因为业务容器先起、sidecar 后接管流量,这段窗口的请求会 503。 - 迁移按能力成熟度倒序推进,每一档留一次标签回退演练。
回看《可观测性:链路追踪与统一采集》的三个支柱:它们只能告诉你哪一层出了问题,而这一章的分工表决定你去哪一层改配置。
相关主题
治理规则搬进控制面之后,改规则本身就是一次变更:一次 VirtualService 推送会同时影响所有实例。《变更治理:灰度、开关与故障复盘》讲变更治理:灰度、开关与故障复盘,把"改配置"和"改代码"放在同一套可回滚的流程里。