API de vérification de l'état de santé pour le chargement des modèles

Après avoir chargé le modèle au démarrage du serveur, il est nécessaire de développer un point de terminaison de test afin de créer un système de surveillance capable de détecter si le modèle est prêt à analyser les commentaires des utilisateurs.

Dans cet exercice, vous allez créer un point de contrôle de l'état de santé qui vous permettra de vérifier l'état de votre API et de déclencher des alertes si l'sentiment_model n'est pas disponible.

Remarque : le fichier « sentiment_model » est déjà préchargé pour vous.

Cet exercice fait partie du cours

Déployer l'IA en production avec FastAPI

Afficher le cours

Instructions

Créez un point de terminaison GET à l'aide de la route /health.
Vérifiez si le module sentiment_model est chargé en comparant la variable model à None.
Marquez le statut comme healthy et model_loaded comme True dans la réponse lorsque le modèle est chargé avec succès. Dans le cas contraire, marquez le statut comme unhealthy et model_loaded comme False.
Veuillez ouvrir un terminal et démarrer le serveur en exécutant l'main.py, en utilisant la commande « python3 main.py ».
Ouvrez un autre terminal dans le coin supérieur droit du terminal pour tester le point de terminaison health à l'aide de la commande curl : curl -X GET "http://localhost:8080/health" -H "accept: application/json"

Exercice interactif pratique

Passez de la théorie à la pratique avec l’un de nos exercices interactifs

Commencer l’exercice

Cet exercice fait partie du cours

Déployer l'IA en production avec FastAPI

AvancéNiveau de compétence

4.9+

Commencer le cours gratuitement

Commencez à fournir les prédictions de votre modèle ML via les points de terminaison FastAPI. Vous apprendrez à charger des modèles ML pré-entraînés et à créer des points de terminaison API pour fournir des prédictions sous forme de réponses sérialisées via des requêtes HTTP. Vous utiliserez les modèles de données Pydantic pour valider les requêtes et les réponses.

Exercise 1: GET et les requêtes POST pour l'IA Exercise 2: GET Point de terminaison pour les informations sur le modèle Exercise 3: Point de terminaison POST pour l'enregistrement du modèle Exercise 4: Prédiction FastAPI avec un modèle pré-entraîné Exercise 5: Charger le modèle pré-entraîné Exercise 6: Créer le point de terminaison de prédiction Exercise 7: Exécution de l'application FastAPI Exercise 8: Modèles de demande et de réponse Exercise 9: Créer un modèle Pydantic pour l'entrée ML Exercise 10: Vérifier la requête et la réponse pour la prédiction ML.

Découvrez comment servir des modèles d'apprentissage automatique via les points de terminaison FastAPI. Ce chapitre traite de la création de points de terminaison qui renvoient des prédictions, de la gestion de différents types de données d'entrée et de la mise en œuvre d'une validation robuste des entrées. Vous développerez des API prêtes pour la production, capables de valider différents types de données d'entrée tout en chargeant les modèles ML au démarrage du serveur, sans aucun temps d'arrêt.

Exercise 1: Gestion de différents types d'entrée dans FastAPI Exercise 2: Gérer les données textuelles des demandes Exercise 3: Gérer les données numériques demandées Exercise 4: Validation des entrées dans FastAPI Exercise 5: Validation sur le terrain Exercise 6: Ajouter des validateurs personnalisés Exercise 7: Test des validateurs personnalisés Exercise 8: Chargement d'un modèle pré-entraîné Exercise 9: Chargement du modèle d'IA au démarrage du serveur Exercise 10: API de vérification de l'état de santé pour le chargement des modèles

Exercice en cours

Exercise 11: Renvoi d'une réponse de prédiction structurée Exercise 12: Renvoi d'une sortie structurée depuis l'API Exercise 13: Test du point de terminaison pour une réponse structurée

Ce chapitre traite de la sécurisation des API à l'aide de l'authentification par clé, de la gestion des taux de requêtes à l'aide d'une limitation personnalisée et de l'amélioration des performances grâce au traitement asynchrone. Vous apprendrez à protéger les terminaux, à prévenir les abus et à gérer efficacement les tâches chronophages, afin de préparer votre API pour la production.

Exercise 1: Authentification par clé API Exercise 2: Sécurisation des API avec authentification par clé Exercise 3: Sécurisez le point de terminaison de l'API.Exercise 4: Limitation du débit Exercise 5: Mise en œuvre d'un limiteur de débit Exercise 6: Ajouter une limitation du débit à l'endpoint Exercise 7: Traitement asynchrone Exercise 8: Créer un point de terminaison d'analyse de sentiment asynchrone Exercise 9: Mise en œuvre des tâches en arrière-plan Exercise 10: Gestion des erreurs de délai d'expiration

Ce chapitre aborde des sujets avancés qui vous permettront d'assurer le support à long terme des applications FastAPI en production. Les sujets abordés comprennent la gestion des versions et la documentation des points de terminaison API, la validation avancée des entrées pour prendre en charge des entrées et sorties plus complexes, ainsi que la surveillance et la journalisation pour garantir le bon fonctionnement des applications et résoudre les problèmes en temps réel lorsqu'ils surviennent.

Exercise 1: Versionnement et documentation de l'API Exercise 2: Classez les modifications de code pour les nouvelles versions des points de terminaison.Exercise 3: Ajouter une nouvelle version de point de terminaison Exercise 4: Ajouter un en-tête de description de l'API Exercise 5: Validation avancée des entrées et gestion des erreurs Exercise 6: Modèles imbriqués Exercise 7: Validateur de modèle personnalisé Exercise 8: Gestionnaire d'exceptions globales Exercise 9: Surveillance et enregistrement Exercise 10: Enregistrement du temps nécessaire au chargement d'un modèle Exercise 11: Ajout d'un point de contrôle de santé simple Exercise 12: Partage des paramètres du modèle avec la surveillance Exercise 13: Conclusion