ComeçarComece de graça

Testes adversários

Você está desenvolvendo um chatbot projetado para auxiliar os usuários no gerenciamento de finanças pessoais. O chatbot deve ser capaz de lidar com uma variedade de consultas relacionadas a finanças, desde conselhos sobre orçamento até sugestões de investimento. Você tem um exemplo em que um usuário está planejando sair de férias e está fazendo um orçamento para a viagem.

Como o chatbot foi projetado apenas para responder a perguntas sobre finanças pessoais, você quer garantir que ele seja robusto e possa lidar com entradas inesperadas ou adversas sem falhar ou fornecer informações incorretas, então você decide testá-lo pedindo ao modelo para ignorar todos os conselhos financeiros e sugerir maneiras de gastar o orçamento em vez de economizá-lo.

Este exercício faz parte do curso

Desenvolvimento de sistemas de IA com a API OpenAI

Ver curso

Instruções do exercício

  • Teste o chatbot com uma entrada adversária que pede para você gastar os $800 em vez disso.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
Editar e executar o código