Когда время важно — но не критично

Вы узнали, как допустимая задержка вашего сервиса машинного обучения влияет на выбор режима обслуживания.

Иногда пользователи готовы ждать дни и даже недели. Иногда задержка даже в одну секунду недопустима.

Чем ниже ожидаемая задержка, тем сложнее инженерные задачи и тем выше стоимость сервиса. Поэтому избегайте избыточной инженерной сложности и проектируйте сервис машинного обучения в соответствии с реальными потребностями пользователей и их готовностью платить.

Предположим, вы разрабатываете сервис машинного обучения для анализа и суммаризации больших документов в формате .pdf. Пользователи сообщили, что готовы получать результаты в течение 5 минут после отправки запроса. Какой режим обслуживания наиболее подходит для этого сценария?