Hälsokontroll-API för modellinladdning

När modellen har laddats in vid serverstart behöver du ta fram en testendpoint för att bygga ett övervakningssystem som kan identifiera om modellen är redo att analysera användarkommentarer.

I den här övningen skapar du en hälsokontroll-endpoint som låter dig verifiera API:ets status och utlösa varningar om sentiment_model inte är tillgänglig.

Obs: sentiment_model är redan förinladdad för dig.

Den här övningen är en del av kursen

Driftsättning av AI i produktion med FastAPI

Övningsinstruktioner

Skapa en GET-endpoint med routen /health.
Kontrollera om sentiment_model är laddad genom att jämföra modellvariabeln med None.
Sätt status till healthy och model_loaded till True i svaret när modellen har laddats in, och annars till unhealthy respektive False.
Öppna en terminal och starta servern genom att köra main.py med kommandot python3 main.py.
Öppna en ny terminal via det övre högra hörnet i terminalen och testa health-endpointen med curl-kommandot: curl -X GET "http://localhost:8080/health" -H "accept: application/json"

Interaktiv övning med praktiskt arbete

Gör teori till handling med en av våra interaktiva övningar

Starta övningen

Den här övningen är en del av kursen

Driftsättning av AI i produktion med FastAPI

SkillTag.level.advancedSkillTag.label

4.8+

Starta kursen gratis

Börja leverera prediktioner från din ML-modell via FastAPI-endpoints. Du lär dig att läsa in förtränade ML-modeller och skapa API-endpoints som returnerar prediktioner som serialiserade svar över HTTP-förfrågningar. Du använder Pydantics datamodeller för att validera förfrågningar och svar.

Exercise 1: GET- och POST-förfrågningar för AI Exercise 2: GET-endpoint för modellinformation Exercise 3: POST-endpoint för modellregistrering Exercise 4: FastAPI-prediktion med en förtränad modell Exercise 5: Ladda den förtränade modellen Exercise 6: Skapa prediktionsendpointen Exercise 7: Köra FastAPI-appen Exercise 8: Modeller för förfrågningar och svar Exercise 9: Skapa en Pydantic-modell för ML-indata Exercise 10: Validera förfrågan och svar för ML-prediktion

Lär dig att exponera maskininlärningsmodeller via FastAPI-endpoints. Det här kapitlet behandlar hur du skapar endpoints som returnerar prediktioner, hanterar olika typer av indata och implementerar robust indatavalidering. Du bygger produktionsklara API:er som kan validera olika typer av indata, med ML-modeller inlästa vid serverstart och utan driftstopp.

Exercise 1: Hantera olika indatatyper i FastAPI Exercise 2: Hantera textbaserad förfrågningsdata Exercise 3: Hantera numerisk request-data Exercise 4: Indatavalidering i FastAPI Exercise 5: Fältvalidering Exercise 6: Lägga till anpassade validerare Exercise 7: Testa anpassade validerare Exercise 8: Läsa in en förtränad modell Exercise 9: Läsa in AI-modellen vid serveruppstart Exercise 10: Hälsokontroll-API för modellinladdning

Aktuell övning

Exercise 11: Returnera ett strukturerat prediktionssvar Exercise 12: Returnera strukturerade utdata från API Exercise 13: Testa endpointen för strukturerat svar

Det här kapitlet behandlar hur du säkrar API:er med nyckelbaserad autentisering, hanterar förfrågningsfrekvens med anpassad hastighetsbegränsning och förbättrar prestanda genom asynkron bearbetning. Du lär dig att skydda endpoints, förhindra missbruk och hantera tidskrävande uppgifter effektivt – och gör därigenom ditt API redo för produktion.

Exercise 1: API-nyckelautentisering Exercise 2: Skydda API:er med nyckelautentisering Exercise 3: Skydda API-slutpunkten Exercise 4: Frekvensbegränsning Exercise 5: Implementera en rate limiter Exercise 6: Lägg till rate limiting för endpoint Exercise 7: Asynkron bearbetning Exercise 8: Skapa en asynkron endpoint för sentimentanalys Exercise 9: Implementera bakgrundsuppgifter Exercise 10: Hantera timeoutfel

Det här kapitlet tar upp avancerade ämnen som hjälper dig att underhålla FastAPI-applikationer i produktion på lång sikt. Ämnena inkluderar versionering och dokumentation av API-endpoints, avancerad indatavalidering för mer komplex in- och utdata samt övervakning och loggning för att säkerställa att applikationerna fungerar korrekt och för att felsöka i realtid när de inte gör det.

Exercise 1: API-versionering och dokumentation Exercise 2: Klassificera kodändringar för nya endpointversioner Exercise 3: Lägga till en ny version av en endpoint Exercise 4: Lägga till en beskrivningsrubrik i API:et Exercise 5: Avancerad indatavalidering och felhantering Exercise 6: Nästlade modeller Exercise 7: Anpassad modellvalidering Exercise 8: Global undantagshanterare Exercise 9: Övervakning och loggning Exercise 10: Logga inläsningstid för en modell Exercise 11: Lägga till en enkel hälsokontrollendpunkt Exercise 12: Dela modellparametrar via övervakning Exercise 13: Avslutning