Charger le modèle d'IA au démarrage du serveur

Vous devez déployer un modèle entraîné d'analyse de sentiment pour aider à modérer les commentaires des utilisateurs. Pour assurer une disponibilité sans interruption, l'API doit être prête à analyser les commentaires dès son démarrage.

Dans cet exercice, vous allez mettre en œuvre les événements de cycle de vie de FastAPI pour charger efficacement votre modèle et bâtir le système de modération des commentaires. La classe de modèle SentimentAnalyzer est déjà définie et importée pour vous.

Cette activité fait partie du cours

Déployer l'IA en production avec FastAPI

Instructions de l’exercice

Importez le décorateur de gestionnaire de contexte du module contextlib pour créer l'événement de cycle de vie.
Utilisez le décorateur de gestionnaire de contexte de FastAPI pour définir la fonction d'événement lifespan afin d'assurer le chargement du modèle au démarrage.
Appelez la fonction de chargement du modèle au démarrage dans l'événement lifespan.
Utilisez yield pour permettre au processus de démarrage du serveur de se poursuivre.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Import the context manager decorator from contextlib module
from contextlib import ____

sentiment_model = None

def load_model():
    global sentiment_model
    sentiment_model = SentmentAnalyzer("sentiment_model.joblib")

# Use FastAPI's context manager to define lifespan event
@____
def lifespan(app: FastAPI):
    # Call the function to load the model
    ____
    ____

Modifier et exécuter le code

Cette activité fait partie du cours

Déployer l'IA en production avec FastAPI

SkillTag.level.advancedSkillTag.label

4.8+

Commencer le cours gratuitement

Commencez à servir les prédictions de votre modèle de ML via des points de terminaison FastAPI. Vous apprendrez à charger des modèles de ML préentraînés et à créer des points de terminaison API pour fournir des prédictions comme réponses sérialisées sur des requêtes HTTP. Vous utiliserez des modèles de données Pydantic pour valider les requêtes et les réponses.

Exercise 1: Requêtes GET et POST pour l'IA Exercise 2: Point de terminaison GET pour l'information sur le modèle Exercise 3: Point de terminaison POST pour l'enregistrement de modèles Exercise 4: Prédiction FastAPI avec un modèle préentraîné Exercise 5: Charger le modèle préentraîné Exercise 6: Créer le point de terminaison de prédiction Exercise 7: Exécuter l'app FastAPI Exercise 8: Modèles de requête et de réponse Exercise 9: Créer un modèle Pydantic pour l'entrée ML Exercise 10: Valider la requête et la réponse pour une prédiction ML

Apprenez à servir des modèles de Machine Learning par l'entremise de points de terminaison FastAPI. Ce chapitre couvre la création de points de terminaison qui renvoient des prédictions, la gestion de différents types de données d'entrée et la mise en place d'une validation d'entrée robuste. Vous bâtirez des API prêtes pour la production qui peuvent valider divers types de données d'entrée tout en chargeant les modèles de ML au démarrage du serveur sans temps d'arrêt.

Exercise 1: Gérer différents types d'entrée dans FastAPI Exercise 2: Traiter des données de requête textuelles Exercise 3: Traiter des données numériques de requête Exercise 4: Validation des données d'entrée dans FastAPI Exercise 5: Validation de champ Exercise 6: Ajouter des validateurs personnalisés Exercise 7: Mettre à l'essai des validateurs personnalisés Exercise 8: Charger un modèle préentraîné Exercise 9: Charger le modèle d'IA au démarrage du serveur

Exercice en cours

Exercise 10: API de vérification d'état pour le chargement du modèle Exercise 11: Retourner une réponse de prédiction structurée Exercise 12: Retourner une sortie structurée depuis l'API Exercise 13: Mettre à l'essai le point de terminaison pour une réponse structurée

Ce chapitre traite de la sécurisation des API avec une authentification par clé, de la gestion du débit des requêtes avec une limitation personnalisée et de l'amélioration des performances grâce au traitement asynchrone. Vous apprendrez à protéger les points de terminaison, à prévenir les abus et à gérer efficacement les tâches longues, préparant ainsi votre API pour la production.

Exercise 1: Authentification par clé d'API Exercise 2: Sécuriser des API avec une authentification par clé Exercise 3: Sécuriser le point de terminaison de l'API Exercise 4: Limitation du débit Exercise 5: Implémenter une limite de débit Exercise 6: Ajouter une limitation du débit à l'endpoint Exercise 7: Traitement asynchrone Exercise 8: Créer un point de terminaison asynchrone pour l'analyse de sentiment Exercise 9: Mettre en place des tâches en arrière-plan Exercise 10: Gérer les erreurs d'expiration (timeout)

Ce chapitre aborde des sujets avancés qui vous permettront de soutenir à long terme des applications FastAPI en production. Les sujets incluent la gestion des versions et la documentation des points de terminaison d'API, la validation d'entrée avancée pour prendre en charge des entrées et sorties plus complexes, ainsi que la surveillance et la journalisation pour assurer le bon fonctionnement des applications et résoudre les problèmes en direct lorsqu'ils surviennent.

Exercise 1: Versionnage et documentation d'API Exercise 2: Classer les modifications de code pour les nouvelles versions d'endpoint Exercise 3: Ajouter une nouvelle version de point de terminaison Exercise 4: Ajouter un en-tête de description d'API Exercise 5: Validation avancée des entrées et gestion des erreurs Exercise 6: Imbriquer des modèles Exercise 7: Validateur personnalisé de modèle Exercise 8: Gestionnaire d'exception global Exercise 9: Surveillance et consignation des journaux Exercise 10: Consigner le temps de chargement d'un modèle Exercise 11: Ajouter un point de terminaison simple de vérification d'état Exercise 12: Partager les paramètres du modèle avec la surveillance Exercise 13: Conclusion