Moderando a resposta do modelo
Mesmo que o chatbot tenha gerado uma resposta personalizada, é importante verificar se o conteúdo é seguro para enviar ao cliente. Nesta etapa, você vai moderar a resposta para garantir que todas as pontuações de categoria fiquem abaixo do limite de segurança do cliente.
A resposta do modelo do exercício anterior está disponível como chatbot_reply.
Este exercício faz parte do curso
Sistemas Multimodais com a API da OpenAI
Instruções do exercício
- Envie uma solicitação de moderação usando
chatbot_replycomo entrada. - Extraia as pontuações de categoria da resposta, converta-as em um dicionário usando
.model_dump()e verifique se alguma pontuação excede0.7.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")