Lidar com dados de solicitações textuais
Outra coisa importante no sistema de moderação de conteúdo é prestar atenção ao que os usuários estão falando. O sistema precisa identificar frases problemáticas específicas para ajudar os moderadores a revisar conteúdos potencialmente inadequados.
Você vai criar um endpoint que analisa o texto que chega dos usuários e pega sinalizadores de moderação padronizados.
Este exercício faz parte do curso
Implementando IA na produção com FastAPI
Instruções do exercício
- Transforme o texto recebido em minúsculas na função “
analyze_comment()” para que não faça diferença se as letras são maiúsculas ou minúsculas. - Extraia palavras-chave problemáticas em
found_issuesdo texto processado usando a listaproblem_keywords. - Retorne uma resposta JSON com as seguintes chaves - “
issues” (lista de palavras-chave), “issue_count” (inteiro) e “original_text” (string).
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
@app.post("/analyze_comment")
def analyze_comment(text: str):
problem_keywords = ["spam", "hate", "offensive", "abuse"]
# Convert the input text to lowercase
text_lower = ____
# Extract matching flags using list comprehension
found_issues = [____ for ____ in problem_keywords if keyword in text_lower]
# Return the dictionary with required keys
return {
"____": found_issues,
"____": len(found_issues),
"____": text
}