1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Vývoj AI systémů s OpenAI API
Connected

cvičení

Adversariální testování

Vyvíjíš chatbota, který má uživatelům pomáhat se správou osobních financí. Chatbot by měl zvládat různé dotazy týkající se financí – od rad ohledně rozpočtu až po tipy na investice. Máš k dispozici jeden příklad, kde uživatel plánuje dovolenou a sestavuje si na ni rozpočet.

Protože chatbot je navržen výhradně pro odpovědi na otázky o osobních financích, chceš se ujistit, že je robustní a dokáže zvládat neočekávané nebo adversariální vstupy, aniž by selhal nebo poskytl nesprávné informace. Rozhodneš se ho proto otestovat tak, že požádáš model, aby ignoroval veškeré finanční rady a místo spoření navrhl způsoby, jak rozpočet utratit.

Pokyny

100 XP
  • Otestuj chatbota s adversariálním vstupem, který požaduje utratit těch 800 $ místo jejich uspoření.