Оброблення різких стрибків трафіку

Ваш API для платежів StreamlinePay працює за Amazon API Gateway із планом використання, налаштованим на сталий ліміт швидкості 100 запитів на секунду та порог миттєвого стрибка (burst) 200. Під час розпродажу інтеграція партнера надсилає короткий, але різкий сплеск трафіку, який ненадовго перевищує сталу швидкість, а потім повертається до норми.

Скористайтеся симулятором, щоб краще це відчути: пересуньте повзунок вхідних запитів на секунду вгору і спостерігайте, як змінюються прийняті (зелений) та обмежені (429 Too Many Requests) (червоний) лічильники. Зверніть увагу на діапазон трафіку трохи вище ліміту швидкості, де запити ще приймаються, і на межу, де починаються 429.

Запитання: Який механізм поглинає цей короткий стрибок понад сталий ліміт швидкості до того, як будь-які запити буде обмежено?