НачатьНачать бесплатно

Загрузка модели ИИ при запуске сервера

Вам необходимо развернуть обученную модель анализа тональности, которая помогает модерировать комментарии пользователей. Чтобы обеспечить нулевое время простоя, API должен быть готов анализировать комментарии сразу после запуска.

В этом упражнении вы реализуете события жизненного цикла FastAPI для эффективной загрузки модели и построения системы модерации комментариев. Класс модели SentimentAnalyzer уже определён и импортирован.

Это упражнение является частью курса

Развёртывание ИИ в производственной среде с помощью FastAPI

Посмотреть курс

Инструкции к упражнению

  • Импортируйте декоратор контекстного менеджера из модуля contextlib для создания события жизненного цикла.
  • Используйте декоратор контекстного менеджера FastAPI, чтобы определить функцию события lifespan и обеспечить загрузку модели при запуске.
  • В событии lifespan вызовите функцию загрузки модели при старте сервера.
  • Добавьте yield, чтобы позволить процессу загрузки сервера продолжиться.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Import the context manager decorator from contextlib module
from contextlib import ____

sentiment_model = None

def load_model():
    global sentiment_model
    sentiment_model = SentmentAnalyzer("sentiment_model.joblib")

# Use FastAPI's context manager to define lifespan event
@____
def lifespan(app: FastAPI):
    # Call the function to load the model
    ____
    ____
Редактировать и запускать код