Обработка всплесков трафика

StreamlinePay — ваш платёжный API, работающий за Amazon API Gateway с настроенным планом использования: лимит запросов составляет 100 запросов в секунду, а лимит всплеска — 200. Во время флеш-распродажи партнёрская интеграция генерирует кратковременный резкий всплеск трафика, который ненадолго превышает установленный лимит, а затем возвращается к норме.

Используйте симулятор, чтобы выработать интуицию: переместите ползунок входящих запросов в секунду вверх и понаблюдайте, как изменяются счётчик принятых запросов (зелёный) и счётчик заблокированных запросов (429 Too Many Requests) (красный). Обратите внимание на диапазон трафика чуть выше лимита запросов, при котором запросы всё ещё принимаются, и на точку, где начинают появляться ошибки 429.

Вопрос: Какой механизм поглощает кратковременный всплеск трафика сверх установленного лимита до того, как начинается блокировка запросов?