差别
这里会显示出您选择的修订版和当前版本之间的差别。
| 后一修订版 | 前一修订版 | ||
| 并发术语 [2026/10/09 23:45] – 创建 张叶安 | 并发术语 [2026/10/09 23:46] (当前版本) – 为并发术语添加 RPS/QPS 思维导图 张叶安 | ||
|---|---|---|---|
| 行 1: | 行 1: | ||
| - | 1 | + | ====== 并发术语 ====== |
| + | |||
| + | 本页整理服务端性能相关的常见术语:**QPS、RPS、TPS、HPS、并发数、响应时间、吞吐量**,以及它们之间的关系、换算与估算方法。 | ||
| + | |||
| + | ===== 一分钟速查 ===== | ||
| + | |||
| + | ^ 术语 ^ 全称 ^ 一句话含义 ^ 单位 ^ | ||
| + | | **QPS** | Queries Per Second | 每秒**查询**数,偏「数据库 / 缓存 / 内部接口」视角 | 次/秒 | | ||
| + | | **RPS** | Requests Per Second | 每秒**请求**数,偏「HTTP / 网关 / 网络入口」视角 | 个/秒 | | ||
| + | | **TPS** | Transactions Per Second | 每秒**事务**数,一个事务是一次完整业务操作 | 笔/秒 | | ||
| + | | **HPS** | Hits Per Second | 每秒**点击**数,页面里的静态资源也算一次 | 次/秒 | | ||
| + | | 并发数 | Concurrency | 同一时刻正在被处理的请求数 | 个 | | ||
| + | | RT | Response Time | 响应时间,实际要看 P95 / P99 而不只看均值 | ms | | ||
| + | | 吞吐量 | Throughput | 单位时间处理的数据量或业务量 | MB/ | ||
| + | |||
| + | 一句话记忆:**RPS 看「门口进来多少个请求」,QPS 看「里面执行了多少次查询」,TPS 看「完成了多少笔业务」。** | ||
| + | |||
| + | ===== QPS:每秒查询数 ===== | ||
| + | |||
| + | **定义**:系统在一秒内能处理的查询次数。 | ||
| + | |||
| + | 关键在于「一次查询」的边界由谁定义: | ||
| + | |||
| + | * 数据库层:一条 SQL = 一次查询(含缓存命中与否的差别很大,缓存命中通常能高出几个数量级); | ||
| + | * 服务层:一次 RPC 调用 / 一次内部接口调用 = 一次查询; | ||
| + | * 纯查询型 HTTP 接口:一次请求正好对应一次查询,此时 **QPS ≈ RPS**。 | ||
| + | |||
| + | **关注点** | ||
| + | |||
| + | * **读多写少**的系统(搜索、详情页、配置下发)通常用 QPS 衡量容量。 | ||
| + | * 谈 QPS 必须绑定条件:单机还是集群、单条 SQL 的复杂度、数据量级、是否走索引/ | ||
| + | * 要区分**平均 QPS** 和**峰值 QPS**,容量规划按峰值来。 | ||
| + | |||
| + | ===== RPS:每秒请求数 ===== | ||
| + | |||
| + | **定义**:系统每秒接收并处理的请求数。在 Web 场景里,一个请求通常就是一次 HTTP 请求(也可能是 gRPC、MQ 消息等)。 | ||
| + | |||
| + | **RPS 与 QPS 的差别(最常被混淆的地方)** | ||
| + | |||
| + | * **层级不同**:RPS 是「入口视角」,QPS 是「执行视角」。 | ||
| + | * **数量不同**:一次请求可能触发多次查询。例如一个商品详情页: | ||
| + | - 入口:1 RPS | ||
| + | - 应用内部:商品服务 + 库存服务 + 促销服务,共 3 次 RPC | ||
| + | - 数据库:5 条 SQL,共 5 QPS | ||
| + | * 反过来也有放大:一个页面里的图片、CSS、JS 会算成多个 HPS,但浏览器可能只发 1 个「页面请求」。 | ||
| + | |||
| + | **分层看 RPS** | ||
| + | |||
| + | ^ 层 ^ 计什么 ^ 备注 ^ | ||
| + | | CDN / 负载均衡 | 进入的 HTTP 请求 | 含静态资源,数值最大 | | ||
| + | | 网关 / Nginx | 转发的请求 | 可用 access log 统计 | | ||
| + | | 应用服务 | 业务接口请求 | 通常说的「接口 RPS」 | | ||
| + | | 数据库 | SQL 执行次数 | 这是 QPS | | ||
| + | |||
| + | **从 access log 估算 RPS**(按秒统计请求数): | ||
| + | |||
| + | <code bash> | ||
| + | # 每行第 4 列是 [日/ | ||
| + | awk ' | ||
| + | </ | ||
| + | |||
| + | ===== TPS:每秒事务数 ===== | ||
| + | |||
| + | **定义**:每秒完成的事务数。事务是**最小的完整业务单元**,要么全部成功,要么全部回滚。 | ||
| + | |||
| + | * 例:一次下单 = 扣库存 + 创建订单 + 创建支付单,这是 **1 个事务**,但可能是 3 次请求、十几条 SQL。 | ||
| + | * 所以一般有:**TPS ≤ RPS ≤ QPS**(关系随系统形态变化,不是绝对不等式)。 | ||
| + | * 数据库语境下的 TPS 特指含 `COMMIT` / `ROLLBACK` 的事务数,和 QPS 一起作为 `sysbench` 这类工具的基准输出。 | ||
| + | * **金融、支付、订单类**系统更关心 TPS,因为它直接对应「钱和业务单据」。 | ||
| + | |||
| + | ===== HPS:每秒点击数 ===== | ||
| + | |||
| + | **定义**:每秒的页面/ | ||
| + | |||
| + | * 一个 PV(页面访问)通常只算 1 次页面请求,但会带来**几十个 HPS**(图片、脚本、样式、字体、接口)。 | ||
| + | * 因此 HPS 的数值一般远大于 RPS,主要用来看**带宽和静态资源压力**,路由到 CDN 后才会明显下降。 | ||
| + | |||
| + | ===== 核心关系:并发数、QPS 与响应时间 ===== | ||
| + | |||
| + | 三者由 **Little' | ||
| + | |||
| + | < | ||
| + | 并发数 = QPS × 平均响应时间(s) | ||
| + | QPS = 并发数 ÷ 平均响应时间(s) | ||
| + | 响应时间 = 并发数 ÷ QPS | ||
| + | </ | ||
| + | |||
| + | **算一遍**:单机平均 RT = 50 ms,要支撑 1000 QPS,需要多少并发? | ||
| + | |||
| + | < | ||
| + | 并发数 = 1000 × 0.05 = 50 | ||
| + | </ | ||
| + | |||
| + | **两点推论** | ||
| + | |||
| + | * 并发数**不是** QPS。只有 RT 不变时,「并发数翻倍 → QPS 翻倍」才成立。 | ||
| + | * 提高 QPS 有两条路:**加并发**(加机器/ | ||
| + | |||
| + | **吞吐量 ≠ QPS**:吞吐量看的是「运了多少货」(MB/ | ||
| + | |||
| + | **峰值估算**常用两种做法: | ||
| + | |||
| + | * 二八定律:80% 的请求集中在 20% 的时间里 → | ||
| + | `峰值 QPS = 总请求数 × 0.8 ÷ (86400 × 0.2)` | ||
| + | * 峰值系数法:`峰值 QPS = 平均 QPS × (3 ~ 5)`,具体系数按业务波动取。 | ||
| + | |||
| + | ===== 常见误区 ===== | ||
| + | |||
| + | - **把 RPS 和 QPS 当成同一个东西**。单层系统里数值常常一样,一旦分层(网关→微服务→DB)就会差好几倍,压测结论会算错。 | ||
| + | - **只看平均值**。均值 50 ms 可能掩盖 P99 = 2 s,用户感知的是尾部延迟,所以要看 P95 / P99 / P999。 | ||
| + | - **用并发数当容量指标**。1000 并发在 RT = 10 ms 时是 10 万 QPS,在 RT = 1 s 时只有 1000 QPS。 | ||
| + | - **脱离 RT 报 QPS**。「我压到了 5 万 QPS」这句话必须带上 RT 和错误率才有意义。 | ||
| + | - **只看压测工具的结果**。工具端会把超时、排队也算进去,要同时看服务端统计、CPU/ | ||
| + | - **忽略错误率**。QPS 冲高但一半请求 500,属于无效吞吐。 | ||
| + | |||
| + | ===== 怎么测 ===== | ||
| + | |||
| + | ^ 工具 ^ 特点 ^ 适用 ^ | ||
| + | | ab | 最简单,单线程模型,容易成为压测端瓶颈 | 快速冒烟 | | ||
| + | | wrk | 多线程 + 事件驱动,压得动高 QPS | 接口基准 | | ||
| + | | hey | ab 的现代替代,支持并发与持续时间 | 接口基准 | | ||
| + | | vegeta | 恒定速率压测,输出延迟分位 | 稳定性验证 | | ||
| + | | JMeter | 图形化,支持复杂场景与断言 | 业务链路 | | ||
| + | | Locust / k6 | 用代码写场景,便于 CI 集成 | 持续压测 | | ||
| + | |||
| + | **推荐流程** | ||
| + | |||
| + | 1. 明确目标:目标 RPS/ | ||
| + | 2. 阶梯加压(如 100 → 500 → 1000 → 2000 …,每档稳定跑几分钟),观察 QPS 与 RT 曲线。 | ||
| + | 3. 找**拐点**:QPS 不再上升而 RT 陡增的位置,就是当前容量上限。 | ||
| + | 4. 记录当时的资源水位(CPU、内存、磁盘 IO、连接数、线程池队列),判断瓶颈在应用、DB 还是网络。 | ||
| + | 5. 压测环境尽量贴近生产,否则数字只能做趋势参考。 | ||
| + | |||
| + | ===== 速览:思维导图 ===== | ||
| + | |||
| + | ```mdk height=520 color=# | ||
| + | # 并发术语 | ||
| + | ## QPS 每秒查询数 | ||
| + | - 查询视角:DB / 缓存 / 内部 RPC | ||
| + | - 必须绑定条件:数据量、索引、是否命中缓存 | ||
| + | - 区分平均 QPS 与峰值 QPS | ||
| + | ## RPS 每秒请求数 | ||
| + | - 请求视角:CDN / 网关 / 应用入口 | ||
| + | - 1 次请求 ≠ 1 次查询 | ||
| + | - 商品详情页:1 RPS → 3 次 RPC → 5 条 SQL | ||
| + | - access log 可按秒聚合统计 | ||
| + | ## TPS 每秒事务数 | ||
| + | - 事务 = 完整业务闭环,全成功或全回滚 | ||
| + | - 下单 = 扣库存 + 建订单 + 支付单 | ||
| + | - 一般 TPS ≤ RPS ≤ QPS | ||
| + | - 支付 / 订单系统最关心 | ||
| + | ## HPS 每秒点击数 | ||
| + | - 面向页面资源,静态文件也算 | ||
| + | - 1 个 PV 常带来几十个 HPS | ||
| + | - 主要看带宽与静态资源压力 | ||
| + | ## 关系与换算 | ||
| + | ### 利特尔法则 | ||
| + | - 并发数 = QPS × 平均 RT(s) | ||
| + | - QPS = 并发数 ÷ RT | ||
| + | - RT = 并发数 ÷ QPS | ||
| + | ### 提高 QPS 的两条路 | ||
| + | - 加并发(机器 / 线程) | ||
| + | - 降 RT(索引 / 缓存 / 算法) | ||
| + | ### 峰值估算 | ||
| + | - 二八定律:80% 请求集中在 20% 时间 | ||
| + | - 峰值系数法:平均 QPS × 3~5 | ||
| + | ## 常见误区 | ||
| + | - RPS 与 QPS 混为一谈 | ||
| + | - 只看均值,忽略 P95 / P99 | ||
| + | - 拿并发数当容量 | ||
| + | - 脱离 RT 报 QPS | ||
| + | - 忽略错误率与压测端瓶颈 | ||
| + | ## 压测实践 | ||
| + | - 工具:wrk / hey / vegeta / JMeter / Locust / k6 | ||
| + | - 阶梯加压,找 QPS-RT 拐点 | ||
| + | - 同步看资源水位:CPU / 内存 / IO / 连接数 | ||
| + | ``` | ||