Este capítulo ofrece una introducción a LLMOps y a la fase de ideación del desarrollo de aplicaciones LLM. Explica los fundamentos de LLMOps, destaca las fases del ciclo de vida de LLMs y cubre las actividades clave en la fase de ideación, como la obtención de datos y la selección entre código abierto y propietario LLMs.

Visión general de LLMOps

LLMOps frente a MLOps

Relevancia de LLMOps

Ciclo de vida de LLMs

El objetivo de las fases del ciclo de vida

El ciclo de vida de la aplicación

Fase de ideación

Obtención de datos

Modelos propietarios frente a modelos de código abierto

Seleccionar el modelo base adecuado

Introducción a LLMOps y Fase de Ideación

Este capítulo se centra en la fase de desarrollo de la creación de aplicaciones LLM. Abarca la ingeniería rápida, los agentes y las cadenas, RAG frente a las técnicas de ajuste fino, y los métodos de prueba. 

Ingeniería rápida

La importancia de una ingeniería rápida

Probar la ingeniería rápida

Seguimiento de las indicaciones

Cadenas y agentes

La diferencia entre agentes y cadenas

Elegir la arquitectura adecuada

RAG frente al ajuste fino

El flujo de trabajo RAG

Compara RAG con el ajuste fino

Prueba

Elegir la métrica adecuada

La importancia de las pruebas

Fase de desarrollo

Este capítulo se centra en la fase operativa de la implantación y gestión de la aplicación LLM. Cubriremos estrategias de despliegue como CI/CD, técnicas de escalado, prácticas de supervisión, estrategias de gestión de costes y consideraciones de gobernanza y seguridad. Dominar estos conceptos te ayudará a gestionar eficazmente las aplicaciones LLM en entornos operativos.

Despliegue

La necesidad de CI/CD

Opciones

Escala horizontal

Escalado vertical

La estrategia de ampliación adecuada

Seguimiento y observabilidad

Control de entrada

Control funcional

Control de salida

Supervisar tu aplicación

Gestión de alertas

Gestión de costes

Compresión rápida

Hacer un pronóstico de costes

Gobernanza y seguridad

Inyección rápida

Envenenamiento de datos

Denegación de servicio

Estrategias de mitigación

Integridad de los datos e intoxicación

¡Enhorabuena!

Fase operativa

Embárcate en un viaje por las Operaciones con Grandes Modelos Lingüísticos (LLMOps). Este curso, diseñado tanto para entusiastas como para profesionales, te guía a través de los fundamentos, desde la ideación hasta el despliegue operativo.

Profundizar en el ciclo de vida de las aplicaciones LLM revelará su papel fundamental en las organizaciones. Conocerás los retos y consideraciones de cada fase y cómo perfeccionar el desarrollo y garantizar una implantación sin problemas, al tiempo que adoptas la gobernanza y la seguridad de los datos. Al final del curso, tendrás una sólida comprensión de los conceptos de LLMOps y sabrás cómo aplicarlos a tus aplicaciones.

<h2> Introducción a los LLMOps </h2>

Embárcate en un viaje hacia las Operaciones con Grandes Modelos Lingüísticos (LLMOps). Este curso, diseñado tanto para entusiastas como para profesionales, te guía a través de los fundamentos, desde la ideación hasta el despliegue operativo.

<h2> Desbloquea lo esencial </h2>

Comienza tu exploración desentrañando los fundamentos de las LLMOps. Comprender su papel fundamental en el panorama organizativo y entender los conceptos básicos de los LLM y los LLMOps. El objetivo principal de este curso no es construir tu propio LLM fundacional. En cambio, está orientado a aprovechar las capacidades de un modelo fundacional para aplicarlo dentro de tu organización.

<h2> Navega por el ciclo de vida </h2>

Profundizar en el ciclo de vida de las aplicaciones LLM revelará su papel fundamental en las organizaciones. Conocerás los retos y consideraciones de cada fase y cómo perfeccionar el desarrollo y garantizar una implantación sin problemas, al tiempo que adoptas la gobernanza y la seguridad de los datos. 

Tras completar este curso, no sólo adquirirás una sólida comprensión de los LLMOps, sino que también serás capaz de aplicar con confianza estos conceptos en tu trabajo. Tanto si estás empezando como si deseas profundizar en tus conocimientos, este curso potenciará tus habilidades y te guiará hacia el dominio de los LLMOps.

Large Language Models (LLMs) Concepts

Aprende sobre LLMOps desde la idea hasta la implementación y cómo aplicarlo a tus aplicaciones.

LLMOps Conceptos

Ingeniero asociado de IA para desarrolladores

Desarrollar grandes modelos lingüísticos

Entre las 17.00 y las 18.00 horas se multiplica por diez el tráfico hacia tu modelo, lo que debe tenerse en cuenta

Prevés que la base de usuarios del modelo se duplicará mensualmente este año, y posiblemente más allá, por lo que debes asegurarte de que la aplicación puede gestionar este crecimiento

Para mejorar la naturaleza en tiempo real de tu aplicación, debes aumentar el tiempo de respuesta de cada solicitud individual

Observas que para algunas peticiones concretas, la aplicación se queda sin memoria, incluso durante periodos de poco tráfico

La estrategia de ampliación adecuada

LLMOps Conceptos

Ejercicio interactivo práctico