Läsa in AI-modellen vid serveruppstart
Du ska driftsätta en tränad sentimentanalysmodell som hjälper till att moderera användarkommentarer. För att säkerställa noll driftstopp måste API:et vara redo att analysera kommentarer så snart det startar.
I den här övningen implementerar du FastAPI:s lifespan-händelser för att läsa in modellen effektivt och bygga ett system för kommentarsmoderering. Modellklassen SentimentAnalyzer är redan definierad och importerad åt dig.
Den här övningen är en del av kursen
Driftsättning av AI i produktion med FastAPI
Övningsinstruktioner
- Importera kontexthanterardekoratorn från modulen
contextlibför att skapa lifespan-händelsen. - Använd FastAPI:s kontexthanterardekorator för att definiera händelsefunktionen
lifespanoch säkerställa att modellen läses in vid uppstart. - Anropa funktionen för att läsa in modellen vid uppstart i
lifespan-händelsen. - Använd yield för att låta serverns inläsningsprocess fortsätta.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Import the context manager decorator from contextlib module
from contextlib import ____
sentiment_model = None
def load_model():
global sentiment_model
sentiment_model = SentmentAnalyzer("sentiment_model.joblib")
# Use FastAPI's context manager to define lifespan event
@____
def lifespan(app: FastAPI):
# Call the function to load the model
____
____