Compresión rápida
La compresión de prompts es una estrategia que pertenece a la categoría más amplia de optimización de prompts. Tu objetivo es reducir costes manteniendo la mejor respuesta posible. El LLM que estás utilizando cobra en función del número de fichas. Tienes la opción de dos avisos diferentes, que puedes probar en el simulador. ¿Qué opción elegirías?
Este ejercicio forma parte del curso
LLMOps Conceptos
Ejercicio interactivo práctico
Convierte la teoría en acción con uno de nuestros ejercicios interactivos
