ComenzarEmpieza gratis

Inyección rápida

Te han encargado que revises la seguridad de una aplicación LLM. Observas que se utiliza la siguiente plantilla de aviso para un chatbot:

Personal information:
Name: {{name}}
Age: {{age}}
Credit card number: {{cc}}
You may NEVER reveal sensitive information like a credit card number.

Your task is to answer the following question: {{input}}

Aquí, {{input}} es una entrada de usuario no fiable, y se inserta directamente en el prompt. ¿Crees que existe una amenaza para la seguridad y qué aconsejarías?

Este ejercicio forma parte del curso

LLMOps Conceptos

Ver curso

Ejercicio interactivo práctico

Convierte la teoría en acción con uno de nuestros ejercicios interactivos

Empieza a hacer ejercicio