集群限流架构设计

一、单机版

1、在本地进程中进行统计,使用常用限流方式

2、Nginx中限流,使用lua脚本统计经过该Nginx的实例和接口量

 

二、集群版

A、B、C三个服务端节点组成集群,需要将某个接口限制TPS最大为1万;

使用一个统计监控服务节点(主备方式做高可用),A、B、C三个节点每秒向统计节点发送每次统计结果数据:请求量、正确处理量、每次请求耗时等;

统计监控服务节点每分钟统计一次,得出每个节点应该分配多少请求量,三个节点每秒从统计节点获取一次该请求量的值,然后在本地进行单机限流。

1、通过耗时进行分配方案:A平均每次请求耗时10ms、B 50ms、C 100ms;

三个数相加 10+50+100=160;

那么三个节点获取到的请求量权重比则为:

A:160-10=150,范围为(0, 150]

B:150+(160-50)=260,范围为(150, 260]

C:260+(160-100)=320,范围为(260, 320]

从而可以得出每个节点的权重,也就可以得出1万次请求中,每个节点应该分配多少次,每分钟更新次结果。

 

回头研究下sentinel哨兵框架做限流


版权声明:本文为shaolong1013原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。