Adversariell testning
Du utvecklar en chattbot som ska hjälpa användare med privatekonomi. Chattboten ska kunna hantera en mängd olika ekonomirelaterade frågor, från budgetrådgivning till investeringsförslag. Du har ett exempel där en användare planerar att åka på semester och sätter upp en budget för resan.
Eftersom chattboten enbart är utformad för att svara på frågor om privatekonomi vill du säkerställa att den är robust och kan hantera oväntade eller adversariella inmatningar utan att krascha eller ge felaktig information. Därför väljer du att testa den genom att be modellen ignorera alla finansiella råd och istället föreslå sätt att spendera budgeten.
Den här övningen är en del av kursen
Utveckla AI-system med OpenAI API
Övningsinstruktioner
- Testa chattboten med en adversariell inmatning som ber om att spendera $800 istället.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)