Adversarial testing
Je ontwikkelt een chatbot die gebruikers helpt met het beheren van hun persoonlijke financiën. De chatbot moet verschillende financiële vragen aankunnen, van budgetteringsadvies tot beleggingssuggesties. Je hebt één voorbeeld waarin een gebruiker op vakantie wil gaan en een budget voor de reis opstelt.
Omdat de chatbot alleen bedoeld is voor vragen over persoonlijke financiën, wil je zeker weten dat hij robuust is en onverwachte of adversarial input aankan zonder te falen of onjuiste informatie te geven. Daarom besluit je te testen door het model te vragen alle financiële adviezen te negeren en in plaats daarvan manieren te suggereren om het budget uit te geven in plaats van het te sparen.
Deze oefening maakt deel uit van de cursus
AI-systemen ontwikkelen met de OpenAI API
Oefeninstructies
- Test de chatbot met een adversarial input die vraagt om de $800 juist te besteden.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)