Prompt injection beperken
Je ontwikkelt een klantenservice-chatbot voor online bankieren en hebt gehoord dat het team zich zorgen maakt dat kwaadwillenden prompt injection kunnen gebruiken om gevoelige informatie van de gebruiker te ontfutselen. De chatbot die je bouwt mag alleen op hoofdlijnen antwoorden en niet ingaan op details over persoonlijke informatie.
Welke van de volgende technieken helpen het risico op prompt injection door kwaadwillenden te verminderen?
Deze oefening maakt deel uit van de cursus
AI-systemen ontwikkelen met de OpenAI API
Praktische interactieve oefening
Zet theorie om in actie met een van onze interactieve oefeningen.
Begin met trainen