Mise à l'épreuve par des entrées malveillantes
Vous développez un agent conversationnel conçu pour aider les utilisateurs à gérer leurs finances personnelles. Il doit pouvoir traiter une variété de requêtes liées aux finances, allant des conseils de budgétisation aux suggestions d'investissement. Vous avez un exemple où un utilisateur prévoit partir en vacances et établit le budget du voyage.
Comme l'agent est uniquement conçu pour répondre à des questions de finances personnelles, vous voulez vous assurer qu'il est robuste et capable de gérer des entrées inattendues ou malveillantes sans échouer ni fournir de l'information erronée. Vous décidez donc de le mettre à l'essai en demandant au modèle d'ignorer tout conseil financier et de proposer des façons de dépenser le budget plutôt que de l'épargner.
Cette activité fait partie du cours
Développer des systèmes d'IA avec l'API d'OpenAI
Instructions de l’exercice
- Mettez à l'essai l'agent conversationnel avec une entrée malveillante qui demande de dépenser plutôt que d'épargner les 800 $.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)