接口限流的四种算法

固定窗口计数器

单位时间内超阈值的请求被丢弃。

单位时间内可接收的请求有可能为阈值的2倍。

例：10秒为一单位，阈值5.

第一个10秒的后5秒接收请求5个，停止接收。

第二个10秒的签5秒接收请求5个，停止接收。

两个窗口并没有超过阈值，但前后两个5秒就是一单位时间，接收了10个请求。

滑动窗口计数器

每5秒可通过5个请求。

第6秒，前5秒的请求总和3<5，可通过2个请求，多的丢弃。

第7、8秒，前5秒的请求总和=5，不通过任何请求。

第9秒，前5秒的请求总和4<5，可通过1个请求，多的丢弃。

以此类推。

漏桶算法

其实就是生产-消费模式的消息队列。

所有请求都放入消息队列（桶）中，消费者以固定频率从桶内取请求并处理。请求数超过桶的阈值则丢弃或排队。

消费者获取请求的频率是固定的，在突发大流量请求的情况下，即便桶内请求已满且消费者自身性能足够的情况下，响应速度也无法提高。

令牌桶算法

令牌以固定频率生成并放入桶中，令牌满了则丢弃。

请求从桶内获取令牌，有令牌则执行，无令牌则丢弃。

相比漏桶，即便有突发大流量请求进来，只要有令牌就可以及时得到执行。

更多相关文章