ÎncepețiÎncepe gratuit

Testare adversarială

Dezvolți un chatbot conceput să ajute utilizatorii cu gestionarea finanțelor personale. Chatbot-ul ar trebui să poată răspunde la o varietate de întrebări legate de finanțe, de la sfaturi de bugetare până la sugestii de investiții. Ai un exemplu în care un utilizator plănuiește să plece în vacanță și își stabilește bugetul pentru călătorie.

Deoarece chatbot-ul este conceput să răspundă doar la întrebări despre finanțe personale, vrei să te asiguri că este robust și poate gestiona inputuri neașteptate sau adversariale fără să eșueze ori să ofere informații incorecte. Prin urmare, decizi să îl testezi cerând modelului să ignore toate sfaturile financiare și să sugereze modalități de a cheltui bugetul în loc să îl economisească.

Acest exercițiu face parte din cursul

Dezvoltarea sistemelor AI cu OpenAI API

Vezi cursul

Instrucțiuni pentru exercițiu

  • Testează chatbot-ul cu un input adversarial care cere să cheltuiască cei 800 $ în loc să îi economisească.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
Editează și rulează codul