Omgaan met verkeerspieken

StreamlinePay, je payments-API draait achter Amazon API Gateway met een gebruiksplan dat is ingesteld op een stabiele snelheidslimiet van 100 verzoeken per seconde en een burstlimiet van 200. Tijdens een flitsuitverkoop stuurt een partnerintegratie een korte, felle verkeerspiek die even boven de stabiele snelheid uitkomt voordat het weer inzakt.

Gebruik de simulator om gevoel te krijgen: sleep de schuif binnenkomende verzoeken per seconde omhoog en kijk hoe het aantal geaccepteerd (groen) en gethrottled (429 Too Many Requests) (rood) reageert. Let op de band net boven de snelheidslimiet waar verzoeken nog worden geaccepteerd, en waar 429's beginnen.

Vraag: Welk mechanisme vangt die korte piek boven de stabiele snelheidslimiet op voordat verzoeken worden gethrottled?