知乐空间

抖音限流什么意思?(限流是什么意思)

限流是什么意思?(限流在Tik Tok意味着什么?)

我之前读书的时候没接触过高并发/大流量这种东西,所以当然没接触过限流。看公司项目的时候发现用了费率限制器,可以了解一下。

一、限流基础知识介绍

为什么要限制电流?相信不用我多说。

比如周末去餐厅吃饭,但是人太多了,只能在前台取个号,号到我这里才能进餐厅。酒店没有限流怎么办?饭到了,大家都冲进去,酒店处理不了这么多人,很容易出事。酒店工作人员崩溃处理不了)

回到代码世界,情况也是如此。服务器可以处理的请求数量是有限的。如果请求的数量非常大,我们需要限制电流(要么让请求等待,要么丢弃它们)。

在代码领域,有两种常见的限流算法:

令牌桶算法

漏桶

1.1什么是漏桶?

举个例子,现在我有一个水桶,绿色的是我能装水的容量。如果我往桶里倒的水比我能装的多,桶就会溢出来(限流):

目前我们能知道的是:

水桶的容量是固定的(图中绿色的)。

如果超过桶的容量,就会溢出(要么等着,要么扔掉)。

好了,现在让我们在水桶上挖一个洞,这样水就可以从洞里流出来了:

水桶上的孔的大小是固定的,所以水从孔中流出的速度也是固定的。

所以综上所述,算法只需要两个参数:

腹部容积

漏水率

漏桶有两种实现方式:

不允许突然流动:如果流入速率大于流出速率,直接丢弃多余的水。举个例子,我的水桶容量可以装100L,但是我的水桶流出速率是10 L/s,此时,如果现在有100L/s的水进来,我就只让10 L的水进桶,其余的都受到限制。(请求的速度是有限的)

允许的突发流量情况:我的水桶能装100L。如果我的水桶现在是空,那100L的水都可以进我的水桶了。我会以10L/s的速度把水流出去,如果还有100L的水进来,那就只能限制了。

经过以上分析,我们知道:

漏桶可以平滑网络上的突发流量(因为漏水率是固定的)。

1.2什么是令牌桶算法?

现在我又多了一桶。这个桶不是用来装水的,而是用来装代币的:

代币会以一定的速度扔进桶里。例如,我在一秒钟内向桶里扔10个代币:

一个桶可以容纳的令牌数量有上限。比如我的桶最多只能装1000个代币。

每一个请求进来都到桶里去取一个令牌。

例如,如果我这一秒有1001个请求,我将转到桶并获得1001个令牌。这时,可能会出现两种情况:

桶里没有1001令牌,只有1000,所以没有得到令牌的请求只能被阻塞(等待)。

桶中有1001个令牌,所有请求都可以执行。

令牌桶算法支持网络上的突发流量。

* *漏桶和令牌桶的区别:* *从上面的例子可以看出,漏桶只能处理固定速率的请求,而令牌桶可以处理桶内令牌数最大的请求。

第二,限速器的使用

RateLimiter是番石榴的一个限流元件,在我们的系统中使用,使用起来非常方便。

介绍pom依赖关系:

它是基于令牌桶算法的,API非常简单。请参见下面的演示:

从结果中我们可以看到,每秒钟只能执行三个:

第三,分布式限流

RateLimiter是一个单独的限流元件。如果是分布式应用,怎么办?

可以用Redis+lua实现。大致的Lua脚本代码如下:

Java代码如下:

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 ZLME@xxxxxxxx@hotmail.com 举报,一经查实,立刻删除。

留言与评论(共有 0 条评论)
验证码: