Hantera trafiktoppar

StreamlinePay – ditt betalnings-API körs bakom Amazon API Gateway med en användningsplan konfigurerad för en stadig hastighetsgräns på 100 förfrågningar per sekund och en burstgräns på 200. Under en blixtrea skickar en partnerintegration en kort, skarp trafiktoppar som kortvarigt klättrar över den stadiga hastigheten innan den lugnar ner sig.

Använd simulatorn för att bygga intuition: dra reglaget inkommande förfrågningar per sekund uppåt och se hur antalet accepterade förfrågningar (grönt) och antalet begränsade (429 Too Many Requests) förfrågningar (rött) reagerar. Lägg märke till det trafikband precis ovanför hastighetsgränsen där förfrågningar fortfarande accepteras, och var 429-svar börjar visas.

Fråga: Vilket mekanismabsorberar den korta trafiktopparna ovanför den stadiga hastighetsgränsen innan några förfrågningar begränsas?