Health-check API voor het laden van het model

Nadat je het model bij het opstarten van de server hebt geladen, moet je een test-endpoint bouwen voor een monitoringsysteem dat kan detecteren of het model klaar is om gebruikersreacties te analyseren.

In deze oefening maak je een health-check-endpoint waarmee je de status van je API kunt controleren en waarschuwingen kunt triggeren als het sentiment_model niet beschikbaar is.

Opmerking: sentiment_model is al voor je vooraf geladen.

Deze oefening maakt deel uit van de cursus

AI in productie brengen met FastAPI

Oefeninstructies

Maak een GET-endpoint met de route /health.
Controleer of het sentiment_model is geladen door de modelvariabele te vergelijken met None.
Zet de status op healthy en model_loaded op True in de response wanneer het model succesvol is geladen; anders zet je de status op unhealthy en model_loaded op False.
Open een terminal en start de server door main.py uit te voeren met het commando python3 main.py.
Open rechtsboven een tweede terminal om het health-endpoint te testen met het curl-commando: curl -X GET "http://localhost:8080/health" -H "accept: application/json"

Interactieve oefening met praktijkervaring

Zet theorie om in actie met een van onze interactieve oefeningen

Deze oefening maakt deel uit van de cursus

AI in productie brengen met FastAPI

SkillTag.level.advancedSkillTag.label

4.8+

Begin gratis met de cursus

Begin met het aanbieden van voorspellingen van je ML-model via FastAPI-endpoints. Je leert voorgetrainde ML-modellen te laden en API-endpoints te maken die voorspellingen als geserialiseerde responses over HTTP-requests teruggeven. Je gebruikt Pydantic-datamodellen om requests en responses te valideren.

Exercise 1: GET- en POST-verzoeken voor AI Exercise 2: GET-endpoint voor modelinformatie Exercise 3: POST-endpoint voor modelregistratie Exercise 4: FastAPI-voorspelling met een voorgetraind model Exercise 5: Laad het voorgetrainde model Exercise 6: Maak het prediction-endpoint Exercise 7: De FastAPI-app uitvoeren Exercise 8: Request- en responsemodellen Exercise 9: Maak een Pydantic-model voor ML-input Exercise 10: Valideer request en response voor ML-voorspelling

Leer hoe je machine learning-modellen via FastAPI-endpoints kunt aanbieden. Dit hoofdstuk behandelt het maken van endpoints die voorspellingen teruggeven, het omgaan met verschillende typen invoergegevens en het implementeren van robuuste invoervalidatie. Je bouwt productieklare API's die verschillende soorten invoer kunnen valideren, terwijl ML-modellen bij het opstarten van de server worden geladen zonder downtime.

Exercise 1: Verschillende inputtypen verwerken in FastAPI Exercise 2: Tekstuele requestgegevens afhandelen Exercise 3: Numerieke requestdata verwerken Exercise 4: Invoervalidatie in FastAPI Exercise 5: Veldvalidatie Exercise 6: Aangepaste validators toevoegen Exercise 7: Aangepaste validators testen Exercise 8: Een voorgetraind model laden Exercise 9: AI-model laden bij serverstartup Exercise 10: Health-check API voor het laden van het model

Huidige oefening

Exercise 11: Een gestructureerde voorspellingsrespons teruggeven Exercise 12: Gestructureerde output retourneren vanuit een API Exercise 13: De endpoint testen voor een gestructureerde respons

Dit hoofdstuk behandelt het beveiligen van API's met key-based authenticatie, het beheersen van verzoekfrequenties met aangepaste rate limiting en het verbeteren van de performance via asynchrone verwerking. Je leert endpoints te beschermen, misbruik te voorkomen en tijdrovende taken efficiënt af te handelen, zodat je API klaar is voor productie.

Exercise 1: API-sleutelauthenticatie Exercise 2: API's beveiligen met sleutel-authenticatie Exercise 3: Beveilig het API-endpoint Exercise 4: Verzoeklimitering Exercise 5: Een rate limiter implementeren Exercise 6: Voeg rate limiting toe aan endpoint Exercise 7: Asynchrone verwerking Exercise 8: Maak een async endpoint voor sentimentanalyse Exercise 9: Achtergrondtaken implementeren Exercise 10: Time-outfouten afhandelen

Dit hoofdstuk behandelt geavanceerde onderwerpen die je in staat stellen FastAPI-apps langdurig in productie te ondersteunen. Onderwerpen zijn onder meer versiebeheer en documentatie van API-endpoints, geavanceerde invoervalidatie voor complexere input en output, en monitoring en logging om te garanderen dat apps correct draaien en om live te troubleshooten als dat niet zo is.

Exercise 1: API-versiebeheer en documentatie Exercise 2: Classificeer codewijzigingen voor nieuwe endpointversies Exercise 3: Een nieuwe endpointversie toevoegen Exercise 4: Een beschrijvende header aan je API toevoegen Exercise 5: Geavanceerde invoervalidatie en foutafhandeling Exercise 6: Modellen nesten Exercise 7: Aangepaste modelvalidator Exercise 8: Globale exceptiehandler Exercise 9: Monitoring en logging Exercise 10: Laadtijd van een model loggen Exercise 11: Een eenvoudige health-check-endpoint toevoegen Exercise 12: Modelparameters delen met monitoring Exercise 13: Afronding