差别
这里会显示出您选择的修订版和当前版本之间的差别。
| 后一修订版 | 前一修订版 | ||
| mysql主库与redis缓存 [2026/10/15 16:19] – 新建「MySQL 做主库 + Redis 做缓存」页面(导语部分) 张叶安 | mysql主库与redis缓存 [2026/10/15 16:21] (当前版本) – 修正指向 docker 页的锚点链接 张叶安 | ||
|---|---|---|---|
| 行 3: | 行 3: | ||
| 这是最常见的「数据库 + 缓存」组合:**MySQL 存全部数据、做唯一事实来源;Redis 挡在读请求前面,把热点数据放进内存。** 目标是让绝大多数读请求根本不碰 MySQL。 | 这是最常见的「数据库 + 缓存」组合:**MySQL 存全部数据、做唯一事实来源;Redis 挡在读请求前面,把热点数据放进内存。** 目标是让绝大多数读请求根本不碰 MySQL。 | ||
| - | 本文按「架构定位 → 读路径 → 写路径 → key 设计 → 代码封装 → 三大缓存问题 → 一致性方案」组织,假设你已经了解 [[redis|Redis 的基本用法]];容器怎么起这两个服务,见 [[docker# | + | 本文按「架构定位 → 读路径 → 写路径 → key 设计 → 代码封装 → 三大缓存问题 → 一致性方案」组织,假设你已经了解 [[redis|Redis 的基本用法]];容器怎么起这两个服务,见 [[docker|Docker |
| > 一句话记住:**缓存只有三个动作——读的时候回填、写的时候删除、过期时间兜底。** 剩下的一切都是这三个动作的细节与补救。 | > 一句话记住:**缓存只有三个动作——读的时候回填、写的时候删除、过期时间兜底。** 剩下的一切都是这三个动作的细节与补救。 | ||
| + | |||
| + | ```mdk height=520 color=# | ||
| + | # MySQL 主库 + Redis 缓存 | ||
| + | ## 定位 | ||
| + | - MySQL 是唯一事实来源 | ||
| + | - Redis 只是加速层 | ||
| + | - 缓存数据随时可丢、可重建 | ||
| + | ## 读路径 | ||
| + | - 先查 Redis | ||
| + | - 未命中查 MySQL | ||
| + | - 查到后回填并设 TTL | ||
| + | - 查不到就缓存空值 | ||
| + | ## 写路径 | ||
| + | - 先更新 MySQL | ||
| + | - 再删除缓存(不是更新) | ||
| + | - 删除失败要重试补偿 | ||
| + | - TTL 作为最后兜底 | ||
| + | ## Key 设计 | ||
| + | - 业务: | ||
| + | - 值统一 JSON 序列化 | ||
| + | - 控制单值与集合大小 | ||
| + | - TTL 加随机抖动 | ||
| + | ## 三大缓存问题 | ||
| + | ### 穿透 | ||
| + | - 缓存空值 | ||
| + | - 布隆过滤器 | ||
| + | - 参数校验与限流 | ||
| + | ### 击穿 | ||
| + | - 互斥锁回源 | ||
| + | - 逻辑过期 | ||
| + | - 热点预热 | ||
| + | ### 雪崩 | ||
| + | - TTL 抖动 | ||
| + | - 多级缓存 | ||
| + | - 熔断降级 | ||
| + | ## 一致性方案 | ||
| + | - 删缓存 + TTL 兜底 | ||
| + | - 延时双删 | ||
| + | - binlog 订阅补偿 | ||
| + | - 要求强一致就别缓存 | ||
| + | ## 不该缓存的 | ||
| + | - 余额与库存 | ||
| + | - 权限与支付状态 | ||
| + | - 强一致的读 | ||
| + | ## 别忘了 MySQL | ||
| + | - 回源 SQL 必须走索引 | ||
| + | - 写后读考虑主从延迟 | ||
| + | - 连接池与慢查询监控 | ||
| + | ``` | ||
| + | |||
| + | ===== 一、先定分工:谁是主,谁是缓存 ===== | ||
| + | |||
| + | 这套架构能不能用好,取决于三条铁律: | ||
| + | |||
| + | - **MySQL 是唯一事实来源(Source of Truth)**:任何数据先写进 MySQL,成功了才谈缓存 | ||
| + | - **Redis 是可以随时清空的加速层**:'' | ||
| + | - **缓存里不允许存在只有它才有的数据**:一旦出现,说明它已经变成主库了 | ||
| + | |||
| + | 推论很清楚:**数据库里的数据都要有,缓存里的数据可以没有。** 判断一段逻辑能不能走缓存,就问一句「这个 key 突然消失,业务会不会算错?」会,就不能缓存。 | ||
| + | |||
| + | < | ||
| + | 读请求: | ||
| + | 应用 ──① 查缓存──▶ Redis | ||
| + | │ 命中 ──▶ 直接返回(绝大多数请求走到这里就结束了) | ||
| + | │ | ||
| + | └─② 未命中 ──▶ MySQL ──③ 回填缓存(带 TTL)──▶ 返回 | ||
| + | |||
| + | 写请求: | ||
| + | 应用 ──① 更新 MySQL(事务提交) ──② 删除 Redis 里的相关 key | ||
| + | └─③ 删除失败 → 重试 / 由 binlog 订阅补偿 | ||
| + | </ | ||
| + | |||
| + | ===== 二、读路径:Cache Aside(旁路缓存) ===== | ||
| + | |||
| + | 读的标准写法,业界叫 **Cache Aside**,就是把「先查缓存、没有再查库、然后回填」这件事放在业务代码里(而不是让缓存中间件自己回源): | ||
| + | |||
| + | < | ||
| + | 值 = GET key | ||
| + | 如果缓存未命中: | ||
| + | 值 = 查 MySQL 走索引 | ||
| + | 如果值存在: | ||
| + | SET key 值 EX 300 # 回填,必须带过期时间 | ||
| + | 否则: | ||
| + | SET key 空值标记 EX 60 # 防穿透,TTL 要短 | ||
| + | 返回 值 | ||
| + | </ | ||
| + | |||
| + | 几个必须做到的细节: | ||
| + | |||
| + | * **回填一定要带 TTL**,哪怕 TTL 很长。没有 TTL 的缓存 key 是定时炸弹。 | ||
| + | * **空结果也要缓存**,否则一个不存在的 ID 被反复请求就会次次打到 MySQL(缓存穿透)。 | ||
| + | * **只在 MySQL 查到数据时才回填**,不要用「缓存空值」当正常的取数逻辑。 | ||
| + | * 别在缓存里存「查库的游标」这类状态,缓存是无状态加速层。 | ||
| + | |||
| + | 常见的另外两种模式(了解即可,多数项目用不上): | ||
| + | |||
| + | ^ 模式 ^ 读 ^ 写 ^ 评价 ^ | ||
| + | | Cache Aside | 应用自己查缓存 + 查库回填 | 应用自己更新库 + 删缓存 | **推荐默认选择**,逻辑透明、可控 | | ||
| + | | Read/Write Through | 由缓存组件代为回源 | 由缓存组件代为写库 | 应用层更干净,但需要中间件支持,排错链条变长 | | ||
| + | | Write Behind | 同 Cache Aside | 先写缓存,异步批量刷库 | 吞吐极高,**宕机会丢数据**,只适合日志、计数等可容忍丢失的场景 | | ||
| + | |||
| + | ===== 三、写路径:为什么「先更新库、再删缓存」 ===== | ||
| + | |||
| + | 这一节是整套方案里最容易写错的地方,值得逐条说清楚。 | ||
| + | |||
| + | ==== 1. 为什么是「删除」缓存,而不是「更新」缓存 ==== | ||
| + | |||
| + | * **并发写会互相覆盖**:两个写请求几乎同时到达,A 先更新库、B 后更新库又先更新缓存,最终缓存里留下的是 A 的旧值,而且可能长期存在 | ||
| + | * **删除是幂等的**:删一次和删三次结果一样;更新则要保证「算出来的值」一定是最新的,代价高得多 | ||
| + | * **删除能顺带处理集合类的复杂更新**:像列表、排行榜,你很难算出「更新后的缓存该长什么样」 | ||
| + | |||
| + | ==== 2. 为什么是「先更新数据库,再删缓存」 ==== | ||
| + | |||
| + | 反过来「先删缓存、再更新库」看上去更快,但会出现这种时序: | ||
| + | |||
| + | < | ||
| + | 线程 A(写) | ||
| + | 删缓存 | ||
| + | | ||
| + | 查 MySQL,读到旧值 | ||
| + | 更新 MySQL(写新值) | ||
| + | | ||
| + | |||
| + | 结果:库里是新值,缓存里是旧值,而且这条脏数据要等 TTL 到期才消失。 | ||
| + | </ | ||
| + | |||
| + | 而「先更新库、再删缓存」的最坏情况,是读线程在删之前就把旧值读走、又延后回填——窗口极窄,且 TTL 兜底,工程上可以接受。 | ||
| + | |||
| + | ==== 3. 删除失败了怎么办 ==== | ||
| + | |||
| + | 删缓存失败(网络抖动、Redis 重启)会让脏数据长期存在,所以要有补偿: | ||
| + | |||
| + | - **重试**:把删除动作丢进消息队列,失败自动重试直到成功 | ||
| + | - **binlog 订阅兜底**:用 Canal / Debezium / Maxwell 订阅 MySQL binlog,解析出变更的表和主键,由独立消费者去删缓存。这是最可靠的方案,因为**它不依赖业务代码提交后是否记得删** | ||
| + | - **TTL 兜底**:无论上面两条做没做到,TTL 永远在 | ||
| + | |||
| + | ==== 4. 延时双删(什么时候需要) ==== | ||
| + | |||
| + | 写库后立刻删缓存,仍可能有「读线程在删之前读到旧值、删之后才回填」的极端情况。缓解办法是**延迟再删一次**: | ||
| + | |||
| + | <code php> | ||
| + | $redis-> | ||
| + | $pdo-> | ||
| + | // 延迟 300~1000 ms 再删一次,覆盖极端时序下被回填的旧值 | ||
| + | $redis-> | ||
| + | </ | ||
| + | |||
| + | 它不精确(延迟多久是猜的),但能显著缩小窗口。**只有在写并发很高、或 MySQL 主从复制导致读抖动时才有必要**,普通项目用「删缓存 + TTL」就够了。 | ||
| + | |||
| + | ==== 5. 真正需要强一致的数据,就别缓存 ==== | ||
| + | |||
| + | 余额、库存、支付状态、权限判断这类数据,不要用「删缓存 + TTL」硬凑一致性,那只是把 bug 藏起来。正确做法是: | ||
| + | |||
| + | - 这类读**直接走 MySQL 主库**,必要时加行锁或乐观锁 | ||
| + | - 必须用缓存加速时,缓存里放**版本号或时间戳**,读完与库里比对,不一致就回源 | ||
| + | - 用「扣减走 MySQL 原子更新 + 缓存只做展示」的方式降低一致性要求 | ||
| + | |||
| + | ===== 四、Key 设计与序列化规范 ===== | ||
| + | |||
| + | 统一规范能省掉后期一大半排查时间: | ||
| + | |||
| + | ^ 建议 ^ 说明 ^ | ||
| + | | 命名用 '' | ||
| + | | 加统一前缀 | 如 '' | ||
| + | | 值用 JSON 序列化 | 可读性好、跨语言;对体积敏感再换 MessagePack 或压缩 | | ||
| + | | 中文不要转义 | PHP 传 '' | ||
| + | | 单值控制在 10 KB 内 | 大对象拆成多个 key,或只缓存热点字段 | | ||
| + | | 集合元素控制在几千级 | 超过就用 '' | ||
| + | | TTL 必须设,且加抖动 | 300 秒就设成 270 到 330 秒之间,避免同一批 key 同时过期 | | ||
| + | | 空值用独立标记 | 例如固定字符串,避免与真实值混淆 | | ||
| + | |||
| + | <code bash> | ||
| + | user: | ||
| + | user: | ||
| + | article: | ||
| + | rank: | ||
| + | lock: | ||
| + | </ | ||
| + | |||
| + | 另外:**Redis 的 16 个库不要当「环境隔离」用**。开发、测试、生产各起实例或用不同前缀,别靠 '' | ||
| + | |||
| + | ===== 五、封装一个通用的「读缓存」方法 ===== | ||
| + | |||
| + | 把「查缓存 → 回源 → 回填 → 加锁」封成一个入口,业务代码只写一次 SQL 回调,是最省心的做法(这也是 Laravel 的 '' | ||
| + | |||
| + | <code php> | ||
| + | class Cache | ||
| + | { | ||
| + | private const NULL_MARK = ' | ||
| + | |||
| + | public function __construct(private Redis $redis, private PDO $pdo) {} | ||
| + | |||
| + | // $key 完整 key;$ttl 基础 TTL 秒数;$loader 回源回调(查 MySQL) | ||
| + | public function remember(string $key, int $ttl, callable $loader) | ||
| + | { | ||
| + | $raw = $this-> | ||
| + | if ($raw !== false) { | ||
| + | return $raw === self:: | ||
| + | } | ||
| + | |||
| + | // 防击穿:只让一个请求回源,其余请求短暂等待 | ||
| + | $lock = " | ||
| + | if ($this-> | ||
| + | try { | ||
| + | $data = $loader(); | ||
| + | $this-> | ||
| + | return $data; | ||
| + | } finally { | ||
| + | $this-> | ||
| + | } | ||
| + | } | ||
| + | |||
| + | usleep(50000); | ||
| + | $raw = $this-> | ||
| + | if ($raw === false) { | ||
| + | return $loader(); | ||
| + | } | ||
| + | return $raw === self:: | ||
| + | } | ||
| + | |||
| + | // 回填:空值用短 TTL,正常值加 TTL 抖动 | ||
| + | private function write(string $key, $data, int $ttl): void | ||
| + | { | ||
| + | if ($data === null || $data === []) { | ||
| + | $this-> | ||
| + | return; | ||
| + | } | ||
| + | $ttl = (int) ($ttl * (0.9 + mt_rand(0, 20) / 100)); | ||
| + | $this-> | ||
| + | } | ||
| + | |||
| + | public function forget(string ...$keys): void | ||
| + | { | ||
| + | if ($keys) { | ||
| + | $this-> | ||
| + | } | ||
| + | } | ||
| + | } | ||
| + | </ | ||
| + | |||
| + | 业务层用起来就三行——注意**读写是分开的,写路径永远只碰数据库和删除**: | ||
| + | |||
| + | <code php> | ||
| + | // 读 | ||
| + | $user = $cache-> | ||
| + | return $pdo-> | ||
| + | | ||
| + | }); | ||
| + | |||
| + | // 写:先库后缓存,且是删除不是更新 | ||
| + | $pdo-> | ||
| + | $cache-> | ||
| + | </ | ||
| + | |||
| + | Python 侧是同样的思路,用 '' | ||
| + | |||
| + | <code python> | ||
| + | NULL_MARK = b" | ||
| + | |||
| + | def get_user(uid): | ||
| + | key = " | ||
| + | raw = r.get(key) | ||
| + | if raw is not None: | ||
| + | return None if raw == NULL_MARK else json.loads(raw) | ||
| + | |||
| + | lock = " | ||
| + | if r.set(lock, " | ||
| + | try: | ||
| + | row = db.query_one(" | ||
| + | payload = NULL_MARK if row is None else json.dumps(row, | ||
| + | r.setex(key, | ||
| + | return row | ||
| + | finally: | ||
| + | r.delete(lock) | ||
| + | |||
| + | time.sleep(0.05) | ||
| + | raw = r.get(key) | ||
| + | return None if raw in (None, NULL_MARK) else json.loads(raw) | ||
| + | </ | ||
| + | |||
| + | ===== 六、三大缓存问题的具体打法 ===== | ||
| + | |||
| + | ^ 问题 ^ 触发场景 ^ 在 MySQL + Redis 里怎么做 ^ | ||
| + | | 缓存穿透 | 请求不存在的数据(例如把 id 传成负数刷接口),缓存和库都命中不了 | 缓存空值(短 TTL)+ **布隆过滤器**(启动时把 MySQL 主键灌进去,可放 RedisBloom)+ 参数合法性校验 + 单 IP 限流 | | ||
| + | | 缓存击穿 | 单个热点 key 恰好过期(首页、大促商品) | 互斥锁回源(上一节的写法)、**逻辑过期**(值里存过期时间戳,不设物理 TTL,过期后由一个线程异步刷新)、热点数据定时预热 | | ||
| + | | 缓存雪崩 | 大批 key 同时过期,或 Redis 整体挂掉 | TTL 加随机抖动、分批预热错开时间、**本地缓存 + Redis 两级**、熔断降级直查 MySQL 并限流、Redis 用哨兵或集群做高可用 | | ||
| + | |||
| + | 补充两点实战经验: | ||
| + | |||
| + | - **降级开关要提前准备好**:Redis 挂了就去查 MySQL,同时把非核心接口直接返回兜底数据。这需要事先压测过「无缓存时 MySQL 能扛多少 QPS」,否则降级只是把 Redis 的故障转移成数据库的故障。 | ||
| + | - **预热比补救便宜**:大促或发版前,用脚本把确定会热的数据(首页、活动商品)提前灌进缓存,别等流量来了再回源。 | ||
| + | |||
| + | ===== 七、一致性方案分级:按业务选,不要一把梭 ===== | ||
| + | |||
| + | ^ 方案 ^ 一致性水平 ^ 复杂度 ^ 适用场景 ^ | ||
| + | | 更新库 + 删缓存 + TTL 兜底 | 最终一致,窗口秒级 | 低 | **默认方案**,绝大多数业务 | | ||
| + | | 上面 + 延时双删 | 窗口更小但不精确 | 中 | 写并发高、存在主从复制延迟 | | ||
| + | | 上面 + binlog 订阅补偿(Canal / Debezium) | 最终一致,不依赖业务代码 | 高 | 更新入口分散、缓存 key 多、团队有人维护 | | ||
| + | | 缓存内嵌版本号或时间戳 | 能发现不一致并回源 | 中高 | 对脏读敏感的展示类数据 | | ||
| + | | 不缓存,直接读主库 | 强一致 | 低 | 余额、库存、权限、支付状态 | | ||
| + | |||
| + | 要接受的现实是:**只要用了缓存,一致性就是「窗口有多小」的问题,而不是「有没有」的问题。** 工程目标是让窗口足够小(毫秒到秒级)、并且有兜底(TTL、重试、监控告警),而不是追求零窗口。 | ||
| + | |||
| + | ===== 八、别忘了 MySQL 这一侧的配合 ===== | ||
| + | |||
| + | * **主从复制延迟**:写完之后马上读从库可能读不到新值,表现为「改了不进、刷新才有」。常见处理是写后若干秒内的读强制走主库,或把「刚刚更新过」的标记放进缓存让读请求走主库 | ||
| + | * **回源 SQL 必须走索引**:缓存未命中时这条 SQL 会被并发打到,走全表扫描等于直接把库打挂 | ||
| + | * **给回源查询设超时**,并控制数据库连接池上限;缓存击穿的瞬间最容易打爆连接池 | ||
| + | * **监控要有**:缓存命中率(长期低于八成就要查原因)、回源 QPS、MySQL 慢查询、Redis 内存与大 key | ||
| + | * **Redis 与 MySQL 的容量规划分开做**:Redis 内存留足余量并设好 '' | ||
| + | |||
| + | ===== 九、上线检查清单 ===== | ||
| + | |||
| + | * MySQL 是唯一事实来源,清空 Redis 后业务只变慢、不出错 | ||
| + | * 读走 Cache Aside,回填一律带 TTL | ||
| + | * 写走「先更新库、再删缓存」,删的是缓存而不是更新缓存 | ||
| + | * 删除失败有重试或 binlog 补偿,TTL 永远在 | ||
| + | * 空结果有缓存,不存在的数据不会次次打到 MySQL | ||
| + | * 热点 key 有互斥锁或逻辑过期,不会被击穿 | ||
| + | * TTL 带随机抖动,没有成批同时过期的 key | ||
| + | * key 命名、序列化、TTL 有统一规范,单值体积受控 | ||
| + | * 强一致的数据不缓存,走主库 | ||
| + | * 有降级方案,并且压测过「无缓存时 MySQL 能扛多少」 | ||
| + | * 缓存命中率、回源 QPS、慢查询都有监控和告警 | ||
| + | |||
| + | ===== 十、小结 ===== | ||
| + | |||
| + | - 分工:**MySQL 存全部、Redis 只加速**,缓存里不允许有独占数据 | ||
| + | - 读:先查 Redis,未命中查 MySQL 并回填,一定要带 TTL,空结果也要缓存 | ||
| + | - 写:**先更新 MySQL,再删除缓存**,删比更新安全,失败要补偿,TTL 兜底 | ||
| + | - key 设计有规范,TTL 加抖动,体积受控 | ||
| + | - 三大问题各有打法:穿透靠空值缓存加布隆过滤器,击穿靠互斥锁或逻辑过期,雪崩靠抖动加多级缓存和降级 | ||
| + | - 一致性按业务分级选方案,强一致的数据干脆别缓存 | ||
| + | |||
| + | ===== 参考 ===== | ||
| + | |||
| + | * Redis 官方文档:客户端缓存 —— [[https:// | ||
| + | * RedisBloom(布隆过滤器模块) —— [[https:// | ||
| + | * Canal(MySQL binlog 订阅) —— [[https:// | ||
| + | * Debezium —— [[https:// | ||
| + | |||
| + | 相关笔记:[[redis]]、[[docker]] | ||