开始使用免费开始使用

应对突发流量

您的支付 API —— StreamlinePay 运行在 Amazon API Gateway 之后,并配置了使用计划:稳定的 rate limit 为每秒 100 个请求,burst limit 为 200。一次限时促销期间,合作方集成带来一个短促而尖锐的流量峰值,瞬间超过稳定速率,随后又回落。

请使用模拟器建立直觉:上拉 incoming requests per second 滑块,观察 accepted 计数(绿色)与 throttled(429 Too Many Requests) 计数(红色)的变化。注意:在略高于速率限制的一段区间内,请求仍会被接受;再往上,开始出现 429

问题: 在任何请求被限流之前,哪个机制能吸收那段短暂、超过稳定速率限制的流量峰值?

本练习是课程的一部分

在 AWS 上开发应用

查看课程

动手互动练习

通过我们的互动练习之一,将理论转化为实践

开始练习