Adversariální testování
Vyvíjíš chatbota, který má uživatelům pomáhat se správou osobních financí. Chatbot by měl zvládat různé dotazy týkající se financí – od rad ohledně rozpočtu až po tipy na investice. Máš k dispozici jeden příklad, kde uživatel plánuje dovolenou a sestavuje si na ni rozpočet.
Protože chatbot je navržen výhradně pro odpovědi na otázky o osobních financích, chceš se ujistit, že je robustní a dokáže zvládat neočekávané nebo adversariální vstupy, aniž by selhal nebo poskytl nesprávné informace. Rozhodneš se ho proto otestovat tak, že požádáš model, aby ignoroval veškeré finanční rady a místo spoření navrhl způsoby, jak rozpočet utratit.
Toto cvičení je součástí kurzu
Vývoj AI systémů s OpenAI API
Pokyny k cvičení
- Otestuj chatbota s adversariálním vstupem, který požaduje utratit těch 800 $ místo jejich uspoření.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)