Chargement du modèle d'IA au démarrage du serveur

Il est nécessaire de déployer un modèle d'analyse des sentiments bien formé qui facilite la modération des commentaires des utilisateurs. Afin de garantir une disponibilité totale, l'API doit être prête à analyser les commentaires des utilisateurs dès son démarrage.

Dans cet exercice, vous allez implémenter les événements de durée de vie de FastAPI afin de charger efficacement votre modèle et de construire les systèmes de modération des commentaires. La classe modèle SentimentAnalyzer est déjà définie et importée pour vous.

Cet exercice fait partie du cours

Déployer l'IA en production avec FastAPI

Afficher le cours

Instructions

Importez le décorateur context manager à partir du module contextlib afin de créer l'événement lifespan.
Veuillez utiliser le décorateur context manager de FastAPI pour définir la fonction d'événement lifespan afin de garantir le chargement du modèle au démarrage.
Appelez la fonction pour charger le modèle au démarrage dans l'événement lifespan.
Céder pour permettre au processus de chargement du serveur de se poursuivre.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

# Import the context manager decorator from contextlib module
from contextlib import ____

sentiment_model = None

def load_model():
    global sentiment_model
    sentiment_model = SentmentAnalyzer("sentiment_model.joblib")

# Use FastAPI's context manager to define lifespan event
@____
def lifespan(app: FastAPI):
    # Call the function to load the model
    ____
    ____

Modifier et exécuter le code

Cet exercice fait partie du cours

Déployer l'IA en production avec FastAPI

AvancéNiveau de compétence

4.9+

Commencer le cours gratuitement

Commencez à fournir les prédictions de votre modèle ML via les points de terminaison FastAPI. Vous apprendrez à charger des modèles ML pré-entraînés et à créer des points de terminaison API pour fournir des prédictions sous forme de réponses sérialisées via des requêtes HTTP. Vous utiliserez les modèles de données Pydantic pour valider les requêtes et les réponses.

Exercise 1: GET et les requêtes POST pour l'IA Exercise 2: GET Point de terminaison pour les informations sur le modèle Exercise 3: Point de terminaison POST pour l'enregistrement du modèle Exercise 4: Prédiction FastAPI avec un modèle pré-entraîné Exercise 5: Charger le modèle pré-entraîné Exercise 6: Créer le point de terminaison de prédiction Exercise 7: Exécution de l'application FastAPI Exercise 8: Modèles de demande et de réponse Exercise 9: Créer un modèle Pydantic pour l'entrée ML Exercise 10: Vérifier la requête et la réponse pour la prédiction ML.

Découvrez comment servir des modèles d'apprentissage automatique via les points de terminaison FastAPI. Ce chapitre traite de la création de points de terminaison qui renvoient des prédictions, de la gestion de différents types de données d'entrée et de la mise en œuvre d'une validation robuste des entrées. Vous développerez des API prêtes pour la production, capables de valider différents types de données d'entrée tout en chargeant les modèles ML au démarrage du serveur, sans aucun temps d'arrêt.

Exercise 1: Gestion de différents types d'entrée dans FastAPI Exercise 2: Gérer les données textuelles des demandes Exercise 3: Gérer les données numériques demandées Exercise 4: Validation des entrées dans FastAPI Exercise 5: Validation sur le terrain Exercise 6: Ajouter des validateurs personnalisés Exercise 7: Test des validateurs personnalisés Exercise 8: Chargement d'un modèle pré-entraîné Exercise 9: Chargement du modèle d'IA au démarrage du serveur

Exercice en cours

Exercise 10: API de vérification de l'état de santé pour le chargement des modèles Exercise 11: Renvoi d'une réponse de prédiction structurée Exercise 12: Renvoi d'une sortie structurée depuis l'API Exercise 13: Test du point de terminaison pour une réponse structurée

Ce chapitre traite de la sécurisation des API à l'aide de l'authentification par clé, de la gestion des taux de requêtes à l'aide d'une limitation personnalisée et de l'amélioration des performances grâce au traitement asynchrone. Vous apprendrez à protéger les terminaux, à prévenir les abus et à gérer efficacement les tâches chronophages, afin de préparer votre API pour la production.

Exercise 1: Authentification par clé API Exercise 2: Sécurisation des API avec authentification par clé Exercise 3: Sécurisez le point de terminaison de l'API.Exercise 4: Limitation du débit Exercise 5: Mise en œuvre d'un limiteur de débit Exercise 6: Ajouter une limitation du débit à l'endpoint Exercise 7: Traitement asynchrone Exercise 8: Créer un point de terminaison d'analyse de sentiment asynchrone Exercise 9: Mise en œuvre des tâches en arrière-plan Exercise 10: Gestion des erreurs de délai d'expiration

Ce chapitre aborde des sujets avancés qui vous permettront d'assurer le support à long terme des applications FastAPI en production. Les sujets abordés comprennent la gestion des versions et la documentation des points de terminaison API, la validation avancée des entrées pour prendre en charge des entrées et sorties plus complexes, ainsi que la surveillance et la journalisation pour garantir le bon fonctionnement des applications et résoudre les problèmes en temps réel lorsqu'ils surviennent.

Exercise 1: Versionnement et documentation de l'API Exercise 2: Classez les modifications de code pour les nouvelles versions des points de terminaison.Exercise 3: Ajouter une nouvelle version de point de terminaison Exercise 4: Ajouter un en-tête de description de l'API Exercise 5: Validation avancée des entrées et gestion des erreurs Exercise 6: Modèles imbriqués Exercise 7: Validateur de modèle personnalisé Exercise 8: Gestionnaire d'exceptions globales Exercise 9: Surveillance et enregistrement Exercise 10: Enregistrement du temps nécessaire au chargement d'un modèle Exercise 11: Ajout d'un point de contrôle de santé simple Exercise 12: Partage des paramètres du modèle avec la surveillance Exercise 13: Conclusion