트래픽 급증 처리

StreamlinePay는 Amazon API Gateway 뒤에서 실행되는 결제 API로, 초당 100개 요청의 속도 제한(rate limit)과 200개의 버스트 제한(burst limit)이 설정된 사용 플랜으로 구성되어 있습니다. 플래시 세일 중, 파트너 연동 시스템이 짧고 강한 트래픽 급증을 보내며 꾸준한 속도를 일시적으로 초과했다가 다시 안정됩니다.

시뮬레이터를 활용해 직접 확인해 보세요. 초당 수신 요청 슬라이더를 위로 드래그하며 수락된 요청 수(녹색)와 제한된 (429 Too Many Requests) 요청 수(빨간색)가 어떻게 반응하는지 살펴보세요. 속도 제한을 약간 초과해도 요청이 여전히 수락되는 구간과 429 오류가 시작되는 지점을 확인하세요.

질문: 요청이 제한되기 전, 꾸준한 속도 제한을 초과하는 짧은 급증을 흡수하는 메커니즘은 무엇인가요?