本文记录了笔者在平时工作中自接到任务后做的需求调研、技术选型、分析设计、代码实现等一系列过程,总结记录下来作为积累,亦可为有需要的参考下。
为啥要做网关限流
随着业务不断的增长,用户大幅增加,现有的硬件设施短时间内无法到位,系统优化已做过一轮又一轮,为保证系统健康稳定的运行,考虑在如下几种情形下该如何处理呢?
- 某天请求量大增,且都是商户的正常业务请求,超过了系统处理能力,商户请求大量超时了,怎么办?
- A商户一直在调用查询接口导致其他商户的正常业务请求大量超时,怎么办?
第一种情况是商户都是正常业务请求,但因为同时请求的商户太多了,导致请求量太大,超出了系统处理能力导致请求超时。这种情况下需要确认系统的TPS(QPS)、系统吞吐量等一些系统性能健康指标,然后将请求控制在安全指标范围内即可,关于如何确认这些系统指标,网上有许多资料,本文不在此详述。
第二种情况是因为某个商户A占用了大量的请求资源导致其他商户的请求大量超时,这时应该对商户A的请求做限制,不让他过多的占用宝贵的请求资源,将其占用的让给其他商户请求使用。
版权声明:本文为bluesky_rao原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。