Solicitando moderação
Além dos modelos de conclusão de texto e chat, a OpenAI oferece modelos com outras capacidades, incluindo moderação de texto. O modelo de moderação de texto da OpenAI é projetado para avaliar prompts e respostas e determinar se eles violam as políticas de uso da OpenAI, incluindo incitar discurso de ódio e promover violência.
Neste exercício, você vai testar a funcionalidade de moderação da OpenAI em uma frase que pode ter sido sinalizada como contendo conteúdo violento por algoritmos tradicionais de detecção de palavras.
Este exercício faz parte do curso
Sistemas Multimodais com a API da OpenAI
Instruções do exercício
- Verifique se
"My favorite book is To Kill a Mockingbird."viola as políticas da OpenAI usando o endpoint de Moderations. - Imprima as pontuações por categoria para ver os resultados.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)