Gérer les pointes de trafic

Votre API de paiements, StreamlinePay, fonctionne derrière Amazon API Gateway avec un plan d'utilisation configuré pour une limite de débit stable de 100 requêtes par seconde et une limite d'éclat de 200. Pendant une vente éclair, une intégration partenaire envoie une courte pointe de trafic, très abrupte, qui dépasse brièvement le débit stable avant de redescendre.

Utilisez le simulateur pour vous faire une idée : faites glisser vers le haut le curseur requêtes entrantes par seconde et observez l'évolution du nombre accepté (vert) et du nombre limité (429 Too Many Requests) (rouge). Remarquez la plage de trafic juste au‑dessus de la limite de débit où les requêtes sont encore acceptées, ainsi que l'endroit où les 429 commencent.

Question : Quel mécanisme absorbe cette courte pointe au‑dessus de la limite de débit stable avant que des requêtes ne soient limitées ?