本页整理服务端性能相关的常见术语:QPS、RPS、TPS、HPS、并发数、响应时间、吞吐量,以及它们之间的关系、换算与估算方法。
| 术语 | 全称 | 一句话含义 | 单位 |
|---|---|---|---|
| QPS | Queries Per Second | 每秒查询数,偏「数据库 / 缓存 / 内部接口」视角 | 次/秒 |
| RPS | Requests Per Second | 每秒请求数,偏「HTTP / 网关 / 网络入口」视角 | 个/秒 |
| TPS | Transactions Per Second | 每秒事务数,一个事务是一次完整业务操作 | 笔/秒 |
| HPS | Hits Per Second | 每秒点击数,页面里的静态资源也算一次 | 次/秒 |
| 并发数 | Concurrency | 同一时刻正在被处理的请求数 | 个 |
| RT | Response Time | 响应时间,实际要看 P95 / P99 而不只看均值 | ms |
| 吞吐量 | Throughput | 单位时间处理的数据量或业务量 | MB/s、条/s |
一句话记忆:RPS 看「门口进来多少个请求」,QPS 看「里面执行了多少次查询」,TPS 看「完成了多少笔业务」。
定义:系统在一秒内能处理的查询次数。
关键在于「一次查询」的边界由谁定义:
关注点
定义:系统每秒接收并处理的请求数。在 Web 场景里,一个请求通常就是一次 HTTP 请求(也可能是 gRPC、MQ 消息等)。
RPS 与 QPS 的差别(最常被混淆的地方)
分层看 RPS
| 层 | 计什么 | 备注 |
|---|---|---|
| CDN / 负载均衡 | 进入的 HTTP 请求 | 含静态资源,数值最大 |
| 网关 / Nginx | 转发的请求 | 可用 access log 统计 |
| 应用服务 | 业务接口请求 | 通常说的「接口 RPS」 |
| 数据库 | SQL 执行次数 | 这是 QPS |
从 access log 估算 RPS(按秒统计请求数):
# 每行第 4 列是 [日/月/年:时:分:秒 awk '{print $4}' access.log | cut -c 14-21 | uniq -c | sort -rn | head
定义:每秒完成的事务数。事务是最小的完整业务单元,要么全部成功,要么全部回滚。
COMMIT / ROLLBACK 的事务数,和 QPS 一起作为 sysbench 这类工具的基准输出。定义:每秒的页面/资源点击请求数。
三者由 Little's Law(利特尔法则) 绑定:
并发数 = QPS × 平均响应时间(s) QPS = 并发数 ÷ 平均响应时间(s) 响应时间 = 并发数 ÷ QPS
算一遍:单机平均 RT = 50 ms,要支撑 1000 QPS,需要多少并发?
并发数 = 1000 × 0.05 = 50
两点推论
吞吐量 ≠ QPS:吞吐量看的是「运了多少货」(MB/s、条/s),QPS 看的是「开了多少单」。同样 QPS 下,单次返回 1 KB 和 1 MB,吞吐量差 1000 倍。
峰值估算常用两种做法:
峰值 QPS = 总请求数 × 0.8 ÷ (86400 × 0.2)峰值 QPS = 平均 QPS × (3 ~ 5),具体系数按业务波动取。| 工具 | 特点 | 适用 |
|---|---|---|
| ab | 最简单,单线程模型,容易成为压测端瓶颈 | 快速冒烟 |
| wrk | 多线程 + 事件驱动,压得动高 QPS | 接口基准 |
| hey | ab 的现代替代,支持并发与持续时间 | 接口基准 |
| vegeta | 恒定速率压测,输出延迟分位 | 稳定性验证 |
| JMeter | 图形化,支持复杂场景与断言 | 业务链路 |
| Locust / k6 | 用代码写场景,便于 CI 集成 | 持续压测 |
推荐流程
# 并发术语 ## QPS 每秒查询数 - 查询视角:DB / 缓存 / 内部 RPC - 必须绑定条件:数据量、索引、是否命中缓存 - 区分平均 QPS 与峰值 QPS ## RPS 每秒请求数 - 请求视角:CDN / 网关 / 应用入口 - 1 次请求 ≠ 1 次查询 - 商品详情页:1 RPS → 3 次 RPC → 5 条 SQL - access log 可按秒聚合统计 ## TPS 每秒事务数 - 事务 = 完整业务闭环,全成功或全回滚 - 下单 = 扣库存 + 建订单 + 支付单 - 一般 TPS ≤ RPS ≤ QPS - 支付 / 订单系统最关心 ## HPS 每秒点击数 - 面向页面资源,静态文件也算 - 1 个 PV 常带来几十个 HPS - 主要看带宽与静态资源压力 ## 关系与换算 ### 利特尔法则 - 并发数 = QPS × 平均 RT(s) - QPS = 并发数 ÷ RT - RT = 并发数 ÷ QPS ### 提高 QPS 的两条路 - 加并发(机器 / 线程) - 降 RT(索引 / 缓存 / 算法) ### 峰值估算 - 二八定律:80% 请求集中在 20% 时间 - 峰值系数法:平均 QPS × 3~5 ## 常见误区 - RPS 与 QPS 混为一谈 - 只看均值,忽略 P95 / P99 - 拿并发数当容量 - 脱离 RT 报 QPS - 忽略错误率与压测端瓶颈 ## 压测实践 - 工具:wrk / hey / vegeta / JMeter / Locust / k6 - 阶梯加压,找 QPS-RT 拐点 - 同步看资源水位:CPU / 内存 / IO / 连接数