应对突发流量
您的支付 API —— StreamlinePay 运行在 Amazon API Gateway 之后,并配置了使用计划:稳定的 rate limit 为每秒 100 个请求,burst limit 为 200。一次限时促销期间,合作方集成带来一个短促而尖锐的流量峰值,瞬间超过稳定速率,随后又回落。
请使用模拟器建立直觉:上拉 incoming requests per second 滑块,观察 accepted 计数(绿色)与 throttled(429 Too Many Requests) 计数(红色)的变化。注意:在略高于速率限制的一段区间内,请求仍会被接受;再往上,开始出现 429。
问题: 在任何请求被限流之前,哪个机制能吸收那段短暂、超过稳定速率限制的流量峰值?
本练习是课程的一部分
