Este capítulo introduce LLMOps y la fase de ideación en el desarrollo de aplicaciones con LLM. Explica los fundamentos de LLMOps, destaca las etapas del ciclo de vida de los LLM y cubre actividades clave de la fase de ideación, como la obtención de datos y la elección entre LLM de código abierto y propietarios.

Visión general de LLMOps

LLMOps versus MLOps

Relevancia de LLMOps

Ciclo de vida de los LLMs

El propósito de las fases del ciclo de vida

El ciclo de vida de la aplicación

Fase de ideación

Obtención de datos

Modelos propietarios frente a open-source

Elegir el modelo base adecuado

Introducción a LLMOps y fase de ideación

Este capítulo se centra en la fase de desarrollo de la creación de aplicaciones con LLM. Cubre prompt engineering, agentes y cadenas, técnicas de RAG frente a fine-tuning y métodos de testing.

Ingeniería de prompts

La importancia del prompt engineering

Probando el prompt engineering

Registrar los prompts

Cadenas y agentes

La diferencia entre agentes y cadenas

Elegir la arquitectura adecuada

RAG frente a ajuste fino

El flujo de trabajo de RAG

Compara RAG con fine-tuning

Pruebas

Elegir la métrica adecuada

La importancia de las pruebas

Fase de desarrollo

Este capítulo se centra en la fase operacional del despliegue y la gestión de aplicaciones con LLM. Veremos estrategias de despliegue como CI/CD, técnicas de escalado, prácticas de monitorización, estrategias de gestión de costes y consideraciones de gobernanza y seguridad. Dominar estos conceptos te ayudará a gestionar aplicaciones con LLM de forma eficiente en entornos de producción.

Despliegue

La necesidad de CI/CD

Opciones

Escalado horizontal

Escalado vertical

La estrategia de escalado adecuada

Monitorización y observabilidad

Monitorización de entradas

Monitorización funcional

Monitorización de salidas

Monitorizar tu aplicación

Gestión de alertas

Gestión de costes

Compresión de prompts

Elaborar un pronóstico de costes

Gobernanza y seguridad

Prompt injection

Inyección de prompts

Envenenamiento de datos

Denegación de servicio

Estrategias de mitigación

Integridad de datos y envenenamiento

¡Enhorabuena!

Fase operacional

Emprende un recorrido por las operaciones con modelos de lenguaje grandes (LLMOps). Este curso, pensado tanto para entusiastas como para profesionales, te guía por los fundamentos, desde la idea hasta el despliegue operacional.

Profundizar en el ciclo de vida de las aplicaciones con LLM revelará su papel clave en las organizaciones. Conocerás los retos y consideraciones de cada etapa y cómo perfeccionar el desarrollo y asegurar un despliegue fluido, incorporando además gobernanza y seguridad de datos. Al finalizar, tendrás una base sólida de los conceptos de LLMOps y sabrás cómo aplicarlos a tus aplicaciones.

<h2> Introducción a los LLMOps </h2>

Embárcate en un viaje hacia las Operaciones con Grandes Modelos Lingüísticos (LLMOps). Este curso, diseñado tanto para entusiastas como para profesionales, te guía a través de los fundamentos, desde la ideación hasta el despliegue operativo.

<h2> Desbloquea lo esencial </h2>

Comienza tu exploración desentrañando los fundamentos de las LLMOps. Comprender su papel fundamental en el panorama organizativo y entender los conceptos básicos de los LLM y los LLMOps. El objetivo principal de este curso no es construir tu propio LLM fundacional. En cambio, está orientado a aprovechar las capacidades de un modelo fundacional para aplicarlo dentro de tu organización.

<h2> Navega por el ciclo de vida </h2>

Profundizar en el ciclo de vida de las aplicaciones LLM revelará su papel fundamental en las organizaciones. Conocerás los retos y consideraciones de cada fase y cómo perfeccionar el desarrollo y garantizar una implantación sin problemas, al tiempo que adoptas la gobernanza y la seguridad de los datos. 

Tras completar este curso, no sólo adquirirás una sólida comprensión de los LLMOps, sino que también serás capaz de aplicar con confianza estos conceptos en tu trabajo. Tanto si estás empezando como si deseas profundizar en tus conocimientos, este curso potenciará tus habilidades y te guiará hacia el dominio de los LLMOps.

Large Language Models (LLMs) Concepts

Aprende sobre LLMOps desde la idea hasta la implementación y cómo aplicarlo a tus aplicaciones.

Conceptos de LLMOps

Aprende sobre LLMOps desde la ideación hasta el despliegue y cómo aplicarlo a tus aplicaciones.

Associate AI Engineer para desarrolladores

Desarrollar grandes modelos lingüísticos

Usa plantillas de prompt que no incluyan ninguna información sensible

Identifica y bloquea prompts potencialmente adversarios

Usa solo fuentes de datos fiables para el entrenamiento y el fine-tuning

Usa filtros para detectar y eliminar cualquier información sensible o dañina de los datos antes de usarlos para entrenamiento o fine-tuning

Estrategias de mitigación

Conceptos de LLMOps

Ejercicio interactivo práctico