并发与异步:虚拟线程、@Async 与任务调度
本篇要点:能判断一个服务该不该开虚拟线程、开了之后瓶颈会挪到哪里,并写出不丢上下文、不互相堵死的
@Async与@Scheduled配置。前置要求:读过《Spring 基础:IoC 容器、Bean 生命周期与 AOP》的 Bean 生命周期与代理,知道 Spring 的切面在代理入口生效,方法体内部怎么跳都不会再进一次。
为什么需要它
2026 年 9 月的一个下午,订单服务做灰度。改动只有一个开关:spring.threads.virtual.enabled 从 false 改成 true。镜像重构建,滚动到 20% 的实例,第七分钟告警响了。
P99 从 190ms 变成 30020ms,吞吐反而下降。曲线不是慢慢爬坡,是一条几乎水平的直线贴着 30 秒。同期数据库 CPU 只有 11%。环境是 4C8G 三实例、MySQL 8.0 单主,Spring Boot 4.1.x + JDK 25 + Tomcat 11,这是截至 2026 年 11 月的一套组合。
预发压测的数据很漂亮:200 并发下吞吐涨了 31%,线程数从 480 掉到 40 出头。问题在于预发流量根本打不满连接池,排队点还没暴露出来。
30 秒不是巧合,它是 HikariCP connection-timeout 的默认值。所以 P99 不是“变慢”,是“排满 30 秒然后失败”。分位数只告诉你大家在哪个位置一起死,不告诉你原因。
第一反应通常是“线程不够”。于是 server.tomcat.threads.max 从 200 加到 500,连接池从 10 加到 15,重压一轮,一件都没用。虚拟线程没有“池”这个概念,这个参数限制的是平台线程,而请求已经不在平台线程上排队了。
这一章要解决的就是这件事:虚拟线程拆掉了哪道闸门,新的闸门在哪,以及异步任务和定时任务在这套模型下该怎么配。
核心概念
概念一:虚拟线程、载体线程与卸载
虚拟线程(virtual thread)是由 JVM 调度、不绑定操作系统线程的执行单元,JDK 21 转正。它跑在少量平台线程上,那些平台线程叫载体线程(carrier thread),默认数量等于 CPU 核数,可用 jdk.virtualThreadScheduler.parallelism 调整。
核心动作叫卸载(unmount):虚拟线程遇到阻塞式 I/O 时,JVM 把它从载体线程上摘下来,载体线程转去执行别的虚拟线程,I/O 就绪后再挂回去。几千个并发请求只需要几个载体线程,原因就在这里,如图 7-1 所示。
图 7-1 虚拟线程把排队点从平台线程挪到了连接池
反例就在身边:在虚拟线程里写纯 CPU 密集的循环,卸载不会发生。几十个虚拟线程抢 8 个载体线程,上下文切换比原来更频繁,吞吐不升反降,GC 曲线还更难读。
概念二:并发闸门会换站,监控不会自己跟过去
旧模型里 server.tomcat.threads.max 一个参数管两件事:线程池容量和并发请求上限。虚拟线程没有池,这个参数只对还没切过去的平台线程和阻塞式组件有意义。调它等于调一个不在链路上的参数。
新的闸门有三层:Tomcat 的 max-connections(连接数上限,虚拟线程下它就是并发请求闸门)、HikariCP 的 maximum-pool-size(同一时刻有几条 SQL 在跑)、数据库的 max_connections。三层要按最窄的一层反推,不能按线程数拍。
32 这个取值是算出来的:3 个实例,单库 max_connections=120,留 25% 余量,120 × 0.75 ÷ 3 ≈ 30,取 32。照着博客填 200 不会让压力消失,它原封不动压到 MySQL 上,换成更长的行锁等待和更难查的死锁。
瓶颈换站、监控还站在老站台,是这类事故难查的根本原因。 线程池指标全程健康,因为线程池已经不参与排队了。
| 参数 | 旧模型里限制什么 | 开了虚拟线程后限制什么 | 灰度稳定后的取值 |
|---|---|---|---|
server.tomcat.threads.max | 并发请求数 | 只剩阻塞式组件 | 200(未改动) |
max-connections | 连接数 | 并发请求数 | 8192 |
maximum-pool-size | 线程池容量内够用 | 同时几条 SQL 在跑 | 32 |
connection-timeout | 几乎不触发 | 失败得有多难看 | 2s |
| 虚拟线程数 | 不存在这个概念 | 什么也不限制 | 不设上限 |
概念三:@Async 是又一条代理边界
@Async 让方法在另一个线程上执行,由 AsyncAnnotationBeanPostProcessor 织入代理实现。因此它和 @Transactional 受同一类限制:自调用不生效,private 与 final 方法不生效,异常不会传回调用方。
返回值只有两种:void,或者 Future / CompletableFuture。void 方法抛出的异常没人接,只能交给 AsyncUncaughtExceptionHandler,默认实现打一行日志就结束了,调用方一无所知。
执行器来自容器里的 TaskExecutor Bean。Boot 自动配置了一个 applicationTaskExecutor,参数在 spring.task.execution.*。开启虚拟线程之后,这个默认执行器会换成基于虚拟线程的实现,那组参数随之失效——想控制并发度,只能自己声明执行器。
概念四:@Scheduled 默认只有一个调度线程
@Scheduled 由 TaskScheduler 驱动,Boot 自动配置的调度线程池大小默认是 1,对应 spring.task.scheduling.pool.size。两个 @Scheduled 方法不会并行:一个跑四十分钟,另一个就晚四十分钟。
多数项目没出事,是因为任务都很快。一旦出现对账、导出这类长任务,延迟会累积成“昨天的任务今天才跑完”。
概念五:上下文传递是异步的第一个坑
日志里的 traceId、租户 ID、登录用户通常放在 ThreadLocal 里,MDC 的实现也是 ThreadLocal。线程一换,这些值就没了。
三种处理方式,代价从低到高:给执行器配 TaskDecorator,在提交任务时复制上下文;把上下文改成方法参数显式传递;改用 Scoped Values(JEP 506,JDK 25 转正)替代 ThreadLocal。第三种在几万个虚拟线程下能省内存,但要求调用链走同一条,跨线程仍要显式绑定。先选能跑通的那个,别一上来就换模型。
动手实践
准备一个能连 MySQL 8.0 的 Boot 4.1 工程,JDK 25,依赖 spring-boot-starter-web、spring-boot-starter-jdbc、spring-boot-starter-actuator、mysql-connector-j。下面五步按顺序做,每步都能单独验证。
步骤 1:开关和连接池必须一起改
只改开关不动连接池,就是本篇开头那次事故。两个配置要同时到位。
# application.yml —— Boot 4.1.x + JDK 25,灰度稳定后真正生效的版本
server:
tomcat:
threads:
max: 200 # 已不限制并发请求数,留给阻塞式 Filter
max-connections: 8192 # 现在的并发闸门在这里
accept-count: 200 # 超过 max-connections 才排队,再满直接拒绝
spring:
threads:
virtual:
enabled: true
datasource:
hikari:
maximum-pool-size: 32 # 按库的 max_connections 反推,不是按线程数
connection-timeout: 2s # 默认 30s,虚拟线程下会把 P99 直接顶到 30s
leak-detection-threshold: 60s预期输出:把 logging.level.com.zaxxer.hikari 调到 DEBUG 后,启动日志的 HikariPool-1 - configuration: 段显示 maxPoolSize=32、connectionTimeout=2000;/actuator/configprops 里 server.tomcat.max-connections 为 8192。如果 connectionTimeout 还是 30000,说明配置没被加载,先查前缀是不是 spring.datasource.hikari。
步骤 2:用接口断言验证生效
开完之后习惯性执行 jcmd <pid> Thread.print | grep -c virtual,结果是 0。不是没生效,是 Thread.print 根本不列虚拟线程。把断言写进接口更可靠。
@RestController
class ThreadProbeController {
@GetMapping("/api/demo/whoami")
Map<String, Object> whoami() {
Thread t = Thread.currentThread();
return Map.of(
"virtual", t.isVirtual(), // 期望 true
"name", t.toString(), // 形如 VirtualThread[#1042]/runnable@ForkJoinPool-1-worker-7
"carrier", t.toString().replaceAll(".*@", "")
);
}
}预期输出(curl http://localhost:8080/api/demo/whoami):{"virtual":true,"name":"VirtualThread[#1042]/runnable@ForkJoinPool-1-worker-7","carrier":"ForkJoinPool-1-worker-7"}。
那个 worker-7 是载体线程编号。默认并行度等于核数,8 核机器上只会出现 worker-0 到 worker-7;哪天冒出 worker-12,说明有人动过并行度参数,值得问一句为什么。
步骤 3:给 @Async 配独立执行器并补上下文
默认执行器在虚拟线程模式下不设并发上限,长任务会把数据库连接一起拖走。给它一个独立执行器,顺便用 TaskDecorator 把 MDC 带过去。
@Configuration
@EnableAsync
class AsyncConfig implements AsyncConfigurer {
@Bean("reportExecutor")
ThreadPoolTaskExecutor reportExecutor() {
ThreadPoolTaskExecutor ex = new ThreadPoolTaskExecutor();
ex.setCorePoolSize(4);
ex.setMaxPoolSize(8);
ex.setQueueCapacity(200);
ex.setThreadNamePrefix("report-");
ex.setTaskDecorator(runnable -> {
Map<String, String> ctx = MDC.getCopyOfContextMap();
return () -> {
if (ctx != null) MDC.setContextMap(ctx);
try { runnable.run(); } finally { MDC.clear(); }
};
});
ex.initialize();
return ex;
}
@Override
public Executor getAsyncExecutor() { return reportExecutor(); }
}预期输出:日志线程名带 report- 前缀,每行都带同一个 traceId。把 setTaskDecorator(...) 整段删掉重跑,traceId 变成空值——这就是上下文丢失的现场。
注意 @Async 要写在另一个 Bean 的方法上,并显式指定执行器名 @Async("reportExecutor")。写在同类方法里用 this 调用,和第五章讲的自调用是同一个理由:代理没进来。
步骤 4:让定时任务能并发
@Scheduled 的默认调度器只有一条线程。要并发,交给 SimpleAsyncTaskScheduler(Spring Framework 6.1 起提供,支持虚拟线程)。
@Configuration
@EnableScheduling
class SchedulingConfig implements SchedulingConfigurer {
@Override
public void configureTasks(ScheduledTaskRegistrar registrar) {
SimpleAsyncTaskScheduler scheduler = new SimpleAsyncTaskScheduler();
scheduler.setVirtualThreads(true); // 每次执行一条虚拟线程
scheduler.setConcurrencyLimit(4); // 同时最多 4 个任务
scheduler.setThreadNamePrefix("sched-");
registrar.setTaskScheduler(scheduler);
}
}预期输出:dailySettlement 与 syncStock 两个任务的首次执行时间戳相差不到 1 秒,且第二个在第一个结束前就开始了。把 setConcurrencyLimit(4) 去掉回到默认单线程,第二个任务的开始时间会紧贴在第一个任务结束之后。
步骤 5:认清两个观测陷阱
# 抓快照必须限流,别在生产上裸跑
timeout 15 jcmd <pid> Thread.dump_to_file -format=json -overwrite /tmp/th-$(date +%s).json
# Thread.print 只列平台线程,这个数字永远是 0
jcmd <pid> Thread.print | grep -c virtual预期输出:第一条命令生成一个 JSON 文件,几万个虚拟线程时体积可达几百 MB、耗时十几秒,这期间还有一次 safepoint,会正好在你自己的 P99 曲线上凿出一个尖峰。第二条命令返回 0,它不代表开关没生效。
压测时用 JFR 的默认 profile 录 300 秒,会得到 2.3GB 的录制文件,原因是 jdk.VirtualThreadStart / jdk.VirtualThreadEnd 的事件密度和请求量同阶,几千 QPS 就是每秒几千个事件。要定位“钉住载体线程”的问题,留 jdk.VirtualThreadPinned、GC、jdk.SocketRead 三类就够,其余用自定义 .jfc 关掉。
常见误解
误解一:开了虚拟线程,要先把所有 synchronized 改成 ReentrantLock。这条规矩在 JDK 21 上成立——synchronized 块里发生阻塞会把载体线程一起钉死,并行度瞬间掉回核数。JEP 491 在 JDK 24 落地之后它不成立了,synchronized 里阻塞不再钉住载体线程,JDK 25 上照抄是纯负收益:代码更难读,可重入语义要自己核,什么也换不来。但版本差异本身要写进规范,同一个仓库有人在 JDK 21 上跑同一份代码,行为完全不同。
误解二:spring.threads.virtual.enabled=true 会把所有线程池切过去。它切换的是容器、@Async 的默认执行器和 MVC 异步请求执行器。一个模块还在用自建的 Executors.newFixedThreadPool(4),升级完一点变化没有,报表里却多了一行“迁移完成”。
误解三:Thread.print 里看不到虚拟线程就是没生效。见步骤 5,工具选错了而已。反过来,用 Thread.dump_to_file 在生产上裸抓同样危险:几万虚拟线程的进程上它要跑十几秒、写出几百 MB 的 JSON,还会触发 safepoint。
误解四:用固定大小的 ThreadPoolTaskExecutor 当限流器。虚拟线程的数量本来就不是资源,你限的是空气。限流该挪到网关、信号量或连接池容量上。已经跑 WebFlux / Reactor 的服务也不建议再开虚拟线程,两套调度模型叠在一起,排查时会在“是 Reactor 切线程还是虚拟线程卸载”之间反复横跳。
小结
- 虚拟线程由 JVM 调度、跑在载体线程上,阻塞时卸载。它把并发请求的排队点从线程池挪到了连接池。
- 开虚拟线程的同一次改动里必须一起调连接池:容量按数据库
max_connections除以实例数反推,connection-timeout从默认 30 秒降到秒级,否则 P99 会被拉成一条贴着 30 秒的水平直线,看着像变慢,其实是排队失败。 @Async受代理限制,自调用和private方法不生效;默认执行器在虚拟线程模式下不设上限,长任务要自己给执行器。@Scheduled默认单线程,长任务靠TaskScheduler的并发上限解决,不靠多写几个@Scheduled。- 上下文换线程就丢。
TaskDecorator是最省事的修法,void异步方法的异常要靠AsyncUncaughtExceptionHandler兜。
相关主题
并发解决的是“同一时刻能接多少请求”,接下来要解决的是“出了问题,你怎么在十分钟内知道原因”。《配置与可观测性:Profiles、Actuator 与 Micrometer》讲配置与可观测性:多环境配置的优先级、@ConfigurationProperties 的校验、Actuator 端点的安全暴露,以及指标、追踪、日志这三件套在 Boot 4 里怎么接起来(配置与可观测性)。本篇那 30 秒的曲线,正是靠连接池等待数和超时计数才第一次看清的。