Hantera textbaserad förfrågningsdata
Ett annat krav i innehållsmoderationssystemet är att ta hänsyn till användarkommentarers innehåll. Systemet behöver identifiera specifika problematiska fraser för att hjälpa moderatorer att granska potentiellt olämpligt innehåll.
Du ska skapa en endpoint som analyserar text från användare och extraherar standardiserade moderationsflaggor.
Den här övningen är en del av kursen
Driftsättning av AI i produktion med FastAPI
Övningsinstruktioner
- Konvertera den inkommande texten till gemener i funktionen
analyze_comment()för att göra sökningen skiftlägesokänslig. - Extrahera problemord i
found_issuesfrån den bearbetade texten med hjälp av listanproblem_keywords. - Returnera ett JSON-svar med följande nycklar:
issues(lista med nyckelord),issue_count(heltal) ochoriginal_text(sträng).
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
@app.post("/analyze_comment")
def analyze_comment(text: str):
problem_keywords = ["spam", "hate", "offensive", "abuse"]
# Convert the input text to lowercase
text_lower = ____
# Extract matching flags using list comprehension
found_issues = [____ for ____ in problem_keywords if keyword in text_lower]
# Return the dictionary with required keys
return {
"____": found_issues,
"____": len(found_issues),
"____": text
}