目录

并发术语

本页整理服务端性能相关的常见术语:QPS、RPS、TPS、HPS、并发数、响应时间、吞吐量,以及它们之间的关系、换算与估算方法。

一分钟速查

术语 全称 一句话含义 单位
QPS Queries Per Second 每秒查询数,偏「数据库 / 缓存 / 内部接口」视角 次/秒
RPS Requests Per Second 每秒请求数,偏「HTTP / 网关 / 网络入口」视角 个/秒
TPS Transactions Per Second 每秒事务数,一个事务是一次完整业务操作 笔/秒
HPS Hits Per Second 每秒点击数,页面里的静态资源也算一次 次/秒
并发数 Concurrency 同一时刻正在被处理的请求数 个
RT Response Time 响应时间,实际要看 P95 / P99 而不只看均值 ms
吞吐量 Throughput 单位时间处理的数据量或业务量 MB/s、条/s

一句话记忆:RPS 看「门口进来多少个请求」,QPS 看「里面执行了多少次查询」,TPS 看「完成了多少笔业务」。

QPS:每秒查询数

定义:系统在一秒内能处理的查询次数。

关键在于「一次查询」的边界由谁定义:

关注点

RPS:每秒请求数

定义:系统每秒接收并处理的请求数。在 Web 场景里,一个请求通常就是一次 HTTP 请求(也可能是 gRPC、MQ 消息等)。

RPS 与 QPS 的差别(最常被混淆的地方)

分层看 RPS

层 计什么 备注
CDN / 负载均衡 进入的 HTTP 请求 含静态资源,数值最大
网关 / Nginx 转发的请求 可用 access log 统计
应用服务 业务接口请求 通常说的「接口 RPS」
数据库 SQL 执行次数 这是 QPS

从 access log 估算 RPS(按秒统计请求数):

# 每行第 4 列是 [日/月/年:时:分:秒
awk '{print $4}' access.log | cut -c 14-21 | uniq -c | sort -rn | head

TPS:每秒事务数

定义:每秒完成的事务数。事务是最小的完整业务单元,要么全部成功,要么全部回滚。

HPS:每秒点击数

定义:每秒的页面/资源点击请求数。

核心关系:并发数、QPS 与响应时间

三者由 Little's Law(利特尔法则) 绑定:

并发数 = QPS × 平均响应时间(s)
QPS   = 并发数 ÷ 平均响应时间(s)
响应时间 = 并发数 ÷ QPS

算一遍:单机平均 RT = 50 ms,要支撑 1000 QPS,需要多少并发?

并发数 = 1000 × 0.05 = 50

两点推论

吞吐量 ≠ QPS:吞吐量看的是「运了多少货」(MB/s、条/s),QPS 看的是「开了多少单」。同样 QPS 下,单次返回 1 KB 和 1 MB,吞吐量差 1000 倍。

峰值估算常用两种做法:

常见误区

怎么测

工具 特点 适用
ab 最简单,单线程模型,容易成为压测端瓶颈 快速冒烟
wrk 多线程 + 事件驱动,压得动高 QPS 接口基准
hey ab 的现代替代,支持并发与持续时间 接口基准
vegeta 恒定速率压测,输出延迟分位 稳定性验证
JMeter 图形化,支持复杂场景与断言 业务链路
Locust / k6 用代码写场景,便于 CI 集成 持续压测

推荐流程

  1. 明确目标:目标 RPS/QPS、可接受的 RT 分位、错误率上限。
  2. 阶梯加压(如 100 → 500 → 1000 → 2000 …,每档稳定跑几分钟),观察 QPS 与 RT 曲线。
  3. 找拐点:QPS 不再上升而 RT 陡增的位置,就是当前容量上限。
  4. 记录当时的资源水位(CPU、内存、磁盘 IO、连接数、线程池队列),判断瓶颈在应用、DB 还是网络。
  5. 压测环境尽量贴近生产,否则数字只能做趋势参考。

速览:思维导图

# 并发术语
## QPS 每秒查询数
- 查询视角:DB / 缓存 / 内部 RPC
- 必须绑定条件:数据量、索引、是否命中缓存
- 区分平均 QPS 与峰值 QPS
## RPS 每秒请求数
- 请求视角:CDN / 网关 / 应用入口
- 1 次请求 ≠ 1 次查询
- 商品详情页:1 RPS → 3 次 RPC → 5 条 SQL
- access log 可按秒聚合统计
## TPS 每秒事务数
- 事务 = 完整业务闭环,全成功或全回滚
- 下单 = 扣库存 + 建订单 + 支付单
- 一般 TPS ≤ RPS ≤ QPS
- 支付 / 订单系统最关心
## HPS 每秒点击数
- 面向页面资源,静态文件也算
- 1 个 PV 常带来几十个 HPS
- 主要看带宽与静态资源压力
## 关系与换算
### 利特尔法则
- 并发数 = QPS × 平均 RT(s)
- QPS = 并发数 ÷ RT
- RT = 并发数 ÷ QPS
### 提高 QPS 的两条路
- 加并发(机器 / 线程)
- 降 RT(索引 / 缓存 / 算法)
### 峰值估算
- 二八定律:80% 请求集中在 20% 时间
- 峰值系数法:平均 QPS × 3~5
## 常见误区
- RPS 与 QPS 混为一谈
- 只看均值,忽略 P95 / P99
- 拿并发数当容量
- 脱离 RT 报 QPS
- 忽略错误率与压测端瓶颈
## 压测实践
- 工具:wrk / hey / vegeta / JMeter / Locust / k6
- 阶梯加压,找 QPS-RT 拐点
- 同步看资源水位:CPU / 内存 / IO / 连接数