限流是什么意思?(限流在Tik Tok意味着什么?)
我之前读书的时候没接触过高并发/大流量这种东西,所以当然没接触过限流。看公司项目的时候发现用了费率限制器,可以了解一下。
一、限流基础知识介绍
为什么要限制电流?相信不用我多说。
比如周末去餐厅吃饭,但是人太多了,只能在前台取个号,号到我这里才能进餐厅。酒店没有限流怎么办?饭到了,大家都冲进去,酒店处理不了这么多人,很容易出事。酒店工作人员崩溃处理不了)
回到代码世界,情况也是如此。服务器可以处理的请求数量是有限的。如果请求的数量非常大,我们需要限制电流(要么让请求等待,要么丢弃它们)。
在代码领域,有两种常见的限流算法:
令牌桶算法
漏桶
1.1什么是漏桶?
举个例子,现在我有一个水桶,绿色的是我能装水的容量。如果我往桶里倒的水比我能装的多,桶就会溢出来(限流):
目前我们能知道的是:
水桶的容量是固定的(图中绿色的)。
如果超过桶的容量,就会溢出(要么等着,要么扔掉)。
好了,现在让我们在水桶上挖一个洞,这样水就可以从洞里流出来了:
水桶上的孔的大小是固定的,所以水从孔中流出的速度也是固定的。
所以综上所述,算法只需要两个参数:
腹部容积
漏水率
漏桶有两种实现方式:
不允许突然流动:如果流入速率大于流出速率,直接丢弃多余的水。举个例子,我的水桶容量可以装100L,但是我的水桶流出速率是10 L/s,此时,如果现在有100L/s的水进来,我就只让10 L的水进桶,其余的都受到限制。(请求的速度是有限的)
允许的突发流量情况:我的水桶能装100L。如果我的水桶现在是空,那100L的水都可以进我的水桶了。我会以10L/s的速度把水流出去,如果还有100L的水进来,那就只能限制了。
经过以上分析,我们知道:
漏桶可以平滑网络上的突发流量(因为漏水率是固定的)。
1.2什么是令牌桶算法?
现在我又多了一桶。这个桶不是用来装水的,而是用来装代币的:
代币会以一定的速度扔进桶里。例如,我在一秒钟内向桶里扔10个代币:
一个桶可以容纳的令牌数量有上限。比如我的桶最多只能装1000个代币。
每一个请求进来都到桶里去取一个令牌。
例如,如果我这一秒有1001个请求,我将转到桶并获得1001个令牌。这时,可能会出现两种情况:
桶里没有1001令牌,只有1000,所以没有得到令牌的请求只能被阻塞(等待)。
桶中有1001个令牌,所有请求都可以执行。
令牌桶算法支持网络上的突发流量。
* *漏桶和令牌桶的区别:* *从上面的例子可以看出,漏桶只能处理固定速率的请求,而令牌桶可以处理桶内令牌数最大的请求。
第二,限速器的使用
RateLimiter是番石榴的一个限流元件,在我们的系统中使用,使用起来非常方便。
介绍pom依赖关系:
它是基于令牌桶算法的,API非常简单。请参见下面的演示:
从结果中我们可以看到,每秒钟只能执行三个:
第三,分布式限流
RateLimiter是一个单独的限流元件。如果是分布式应用,怎么办?
可以用Redis+lua实现。大致的Lua脚本代码如下:
Java代码如下:
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 ZLME@xxxxxxxx@hotmail.com 举报,一经查实,立刻删除。