好好力百信息网haolibai.com
好力百信息网
技术 · 开发实战

接口限流:令牌桶和漏桶该怎么选

两种模型都能限制速率,但对突发流量的态度不同。选型的关键是业务能不能容忍排队。

2026-11-20编辑部约 6 分钟3 条留言

两种模型在做什么

令牌桶按固定速率往桶里放令牌,请求取到令牌才被放行,桶的容量决定了突发上限。

漏桶以固定速率流出,进入桶里的请求排队等待,输出始终平滑。

突发流量怎么处理

差别在于对突发的态度,令牌桶允许短时突发,漏桶更强调稳定输出。

面向用户的查询接口通常选令牌桶,短时高峰不该被直接拒绝。

实现成本

对下游保护场景更适合漏桶,比如写入数据库或调用第三方服务。

实现成本上,令牌桶多一个容量参数,代码稍复杂,但语义清晰。

放在哪一层

漏桶的排队会带来延迟,队列长度需要设上限,否则请求等到超时也拿不到结果。

限流的位置可以在网关、应用或客户端,越靠前越省资源,越靠后越精准。

参数怎么定

多实例部署时,计数要放在共享存储,否则每个实例各自限额,总量会翻倍。

参数确定应先看下游容量,再结合业务峰值,拍脑袋定数字容易误伤。

限流之外还要有降级策略,超限时返回明确提示,比直接超时体验更好。

选型没有标准答案,先回答能不能等,再决定用哪个桶。

本文由好力百信息网编辑部整理撰写,观点仅供参考;转载请注明来源与链接。

读者留言

共 3 条 · 精选展示
后
后端阿凯2026-11-20

先看下游容量再定参数,我们就是这么改的。

网
网关运维2026-11-20

多实例共享计数,这点太重要。

读
长期读者2026-11-20

能不能等,总结得干脆。

读者留言

共 4 条 · 精选展示
后
后端小林2026-11-19

先占位再执行,这个顺序值得抄。

架
架构阿泽2026-11-19

并发占位靠约束,踩过重复插入的坑。

前
前端小孟2026-11-19

返回码稳定这点,调用方最在意。

读
读者老高2026-11-19

保留时长按业务窗口来,说得实在。

延伸阅读