Explora opciones para ajustar finamente modelos Llama 3 y descubre TorchTune, una biblioteca creada para simplificar el ajuste fino. Este capítulo te guía por la preparación de datos, el sistema de recetas de TorchTune y la configuración eficiente de tareas, proporcionándote los pasos clave para lanzar tu primera tarea de ajuste fino.

Las bibliotecas de ajuste fino de Llama

Listar recetas de TorchTune

Ejecutar una tarea de TorchTune

Preprocesamiento de datos para el fine-tuning

Filtrado de conjuntos de datos para la evaluación

Creación de muestras de entrenamiento

Guardar conjuntos de datos preprocesados

Ajuste fino con TorchTune

Definir recetas personalizadas

Guardar recetas personalizadas

Ejecutar un fine-tuning personalizado

Preparación para el ajuste fino de Llama

Aprende cómo el ajuste fino puede mejorar significativamente el rendimiento de modelos más pequeños en tareas específicas. Empieza ajustando modelos Llama más pequeños para potenciar sus capacidades en tareas concretas. Después, descubre técnicas de ajuste fino eficientes en parámetros como LoRA y explora la cuantización para cargar y usar incluso modelos más grandes.

Ajuste fino de modelos con Hugging Face

Configurar los argumentos de entrenamiento de Llama

Ajuste fino de Llama para preguntas frecuentes de atención al cliente

Evalúa texto generado con ROUGE

Ajuste fino eficiente con LoRA

Uso de adaptadores LoRA

Ajuste fino con LoRA de Llama para atención al cliente

Reducir el tamaño de los modelos con cuantización

Cargar modelos en 8 bits

Acelerar la inferencia en modelos cuantizados

¡Enhorabuena!

Ajuste fino con SFTTrainer en Hugging Face

Ajusta finamente el LLM de código abierto Llama para optimizar su rendimiento en aplicaciones especializadas. Aprende a usar el sistema basado en recetas de TorchTune y el SFTTrainer de Hugging Face para ejecutar bucles de ajuste fino, preparando tus modelos con conjuntos de datos personalizados. Por último, experimenta con técnicas eficientes en parámetros como LoRA y aplica cuantización para reducir el uso de memoria del modelo y ejecutar tus tareas con mayor eficiencia.

<h2>Ajuste del modelo Llama</h2> Este curso ofrece una guía completa para preparar y trabajar con modelos Llama. A través de ejemplos prácticos y ejercicios, aprenderás a configurar diversas tareas de ajuste fino de Llama. <h2>Prepara conjuntos de datos para el ajuste fino.</h2> Comienza explorando las técnicas de preparación de conjuntos de datos, incluyendo la carga, división y guardado de conjuntos de datos utilizando la biblioteca Hugging Face Datasets, lo que garantiza datos de alta calidad para tus proyectos Llama. <h2>Trabajar con marcos de ajuste fino</h2> Explora los flujos de trabajo de ajuste fino utilizando bibliotecas de vanguardia como TorchTune y SFTTrainer de Hugging Face. Aprenderás a configurar recetas de ajuste fino, configurar argumentos de entrenamiento y utilizar técnicas eficientes como LoRA (Low-Rank Adaptation) y cuantificación utilizando BitsAndBytes para optimizar el uso de los recursos. Al combinar las técnicas aprendidas a lo largo del curso, podrás personalizar los modelos de Llama para adaptarlos a las necesidades de tus proyectos de manera eficiente.

Working with Llama 3

Ajusta Llama para tareas personalizadas con TorchTune y aprende técnicas como la cuantización.

Ajuste fino con Llama 3

Ajusta Llama para tareas personalizadas con TorchTune y aprende técnicas para un ajuste eficiente, como la cuantificación.

Llama Fundamentals

Acelerar la inferencia en modelos cuantizados

Ajuste fino con Llama 3

Instrucciones del ejercicio

Ejercicio interactivo práctico