Обработка ошибок тайм-аута

Чтобы сделать систему анализа отзывов более надёжной и удобной для пользователей, вам необходимо добавить обработку ошибок в эндпоинт analyze_review. Нужно обрабатывать тайм-ауты и внутренние ошибки сервера на случай, если модель не успела обработать текст вовремя или в процессе предсказания возникла ошибка.

Для имитации этой ситуации в процесс предсказания модели в файле model.py добавлена задержка в 10 секунд.

Это упражнение является частью курса

Развёртывание ИИ в производственной среде с помощью FastAPI

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение

Это упражнение является частью курса

Развёртывание ИИ в производственной среде с помощью FastAPI

SkillTag.level.advancedSkillTag.label

4.8+

Начать курс бесплатно

Начните обслуживать предсказания вашей модели машинного обучения через эндпоинты FastAPI. Вы научитесь загружать предобученные модели и создавать API-эндпоинты для передачи предсказаний в виде сериализованных ответов по HTTP-запросам. Для валидации запросов и ответов вы будете использовать модели данных Pydantic.

Exercise 1: GET- и POST-запросы для ИИ Exercise 2: GET-эндпоинт для получения информации о модели Exercise 3: POST-эндпоинт для регистрации модели Exercise 4: Предсказание с помощью FastAPI и предобученной модели Exercise 5: Загрузка предобученной модели Exercise 6: Создание эндпоинта для предсказаний Exercise 7: Запуск приложения FastAPI Exercise 8: Модели запросов и ответов Exercise 9: Создание модели Pydantic для входных данных ML Exercise 10: Валидация запроса и ответа для предсказания модели машинного обучения

Узнайте, как обслуживать модели машинного обучения через эндпоинты FastAPI. В этой главе рассматривается создание эндпоинтов, возвращающих предсказания, обработка различных типов входных данных и реализация надёжной валидации входных данных. Вы создадите API, готовые к работе в производственной среде: с поддержкой разных типов входных данных и загрузкой моделей машинного обучения при запуске сервера без простоев.

Exercise 1: Обработка различных типов входных данных в FastAPI Exercise 2: Обработка текстовых данных запроса Exercise 3: Обработка числовых данных запроса Exercise 4: Валидация входных данных в FastAPI Exercise 5: Валидация полей Exercise 6: Добавление пользовательских валидаторов Exercise 7: Тестирование пользовательских валидаторов Exercise 8: Загрузка предварительно обученной модели Exercise 9: Загрузка модели ИИ при запуске сервера Exercise 10: Health-check API для загрузки модели Exercise 11: Возврат структурированного ответа с предсказанием Exercise 12: Возврат структурированного вывода из API Exercise 13: Тестирование эндпоинта для структурированного ответа

В этой главе рассматривается защита API с помощью аутентификации на основе ключей, управление частотой запросов с использованием пользовательского ограничения нагрузки, а также повышение производительности за счёт асинхронной обработки. Вы научитесь защищать эндпоинты, предотвращать злоупотребления и эффективно обрабатывать ресурсоёмкие задачи — всё это подготовит ваш API к работе в производственной среде.

Exercise 1: Аутентификация по ключу API Exercise 2: Защита API с помощью аутентификации по ключу Exercise 3: Защита конечной точки API Exercise 4: Ограничение частоты запросов Exercise 5: Реализация ограничителя частоты запросов Exercise 6: Добавление ограничения частоты запросов к эндпоинту Exercise 7: Асинхронная обработка Exercise 8: Создание асинхронного эндпоинта для анализа тональности Exercise 9: Реализация фоновых задач Exercise 10: Обработка ошибок тайм-аута

Текущее упражнение

В этой главе рассматриваются продвинутые темы, которые помогут поддерживать приложения FastAPI в производственной среде на долгосрочной основе. Темы включают версионирование и документирование API-эндпоинтов, расширенную валидацию входных и выходных данных для работы со сложными структурами, а также мониторинг и ведение журналов для контроля работы приложений и оперативного устранения неполадок.

Exercise 1: Версионирование и документирование API Exercise 2: Классификация изменений кода для новых версий эндпоинтов Exercise 3: Добавление новой версии эндпоинта Exercise 4: Добавление заголовка с описанием API Exercise 5: Расширенная валидация входных данных и обработка ошибок Exercise 6: Вложенные модели Exercise 7: Пользовательский валидатор модели Exercise 8: Глобальный обработчик исключений Exercise 9: Мониторинг и логирование Exercise 10: Логирование времени загрузки модели Exercise 11: Добавление простого эндпоинта для проверки работоспособности Exercise 12: Передача параметров модели в систему мониторинга Exercise 13: Заключение