Explore opções para ajustar modelos Llama 3 e mergulhe no TorchTune, uma biblioteca criada para simplificar o fine-tuning. Este capítulo orienta você na preparação dos dados, no sistema de receitas do TorchTune e na configuração eficiente de tarefas, apresentando as etapas essenciais para iniciar sua primeira tarefa de ajuste fino.

As bibliotecas de fine-tuning do Llama

Listando receitas do TorchTune

Executando uma tarefa com o TorchTune

Pré-processamento de dados para fine-tuning

Filtrando conjuntos de dados para avaliação

Criando amostras de treinamento

Salvando conjuntos de dados pré-processados

Fine-tuning com o TorchTune

Definindo receitas personalizadas

Salvando receitas personalizadas

Executando um fine-tuning personalizado

Preparando-se para o ajuste fino do Llama

Descubra como o ajuste fino pode melhorar significativamente o desempenho de modelos menores em tarefas específicas. Comece ajustando modelos Llama menores para ampliar suas capacidades focadas na tarefa. Em seguida, conheça técnicas de ajuste fino eficiente em parâmetros, como LoRA, e explore a quantização para carregar e usar modelos ainda maiores.

Ajuste fino de modelos com Hugging Face

Configurando os argumentos de treinamento do Llama

Fine-tuning do Llama para perguntas e respostas de suporte ao cliente

Avalie texto gerado usando ROUGE

Ajuste fino eficiente com LoRA

Usando adaptadores LoRA

Ajuste fino com LoRA do Llama para atendimento ao cliente

Deixando os modelos menores com quantização

Carregando modelos em 8 bits

Acelerando a inferência em modelos quantizados

Parabéns!

Ajuste fino com SFTTrainer no Hugging Face

Faça o ajuste fino do LLM de código aberto Llama para otimizar seu desempenho em aplicações especializadas. Aprenda a usar o sistema baseado em receitas do TorchTune e o SFTTrainer do Hugging Face para executar loops de fine-tuning, preparando seus modelos com conjuntos de dados personalizados. Por fim, experimente técnicas eficientes em parâmetros como LoRA e aplique quantização para reduzir o uso de memória do modelo e executar suas tarefas com mais eficiência.

<h2>Ajustando o modelo Llama</h2> Este curso oferece um guia completo para preparar e trabalhar com modelos Llama. Por meio de exemplos práticos e exercicios práticos, você aprenderá como configurar diversas tarefas de ajuste fino do Llama. <h2>Prepare os conjuntos de dados para o fine-tuning</h2> Comece explorando técnicas de preparação de conjuntos de dados, incluindo carregamento, divisão e salvamento de conjuntos de dados usando a biblioteca Hugging Face Datasets, garantindo dados de alta qualidade para seus projetos Llama. <h2>Trabalhe com frameworks de fine-tuning</h2> Explore fluxos de trabalho de fine-tuning usando bibliotecas de ponta como TorchTune e o SFTTrainer da Hugging Face. Você aprenderá como configurar receitas de ajuste fino, definir argumentos de treinamento e utilizar técnicas eficientes como LoRA (Low-Rank Adaptation) e quantização usando BitsAndBytes para otimizar o uso de recursos. Ao combinar as técnicas aprendidas ao longo do curso, você será capaz de personalizar modelos Llama para atender às necessidades dos seus projetos de maneira eficiente.

Working with Llama 3

Ajuste o Llama para tarefas personalizadas com TorchTune e aprenda técnicas como quantização.

Ajuste Fino com Llama 3

Ajuste o Llama para tarefas personalizadas usando o TorchTune e aprenda técnicas para ajuste eficiente, como quantização.

Llama Fundamentals

Filtrando conjuntos de dados para avaliação

Ajuste Fino com Llama 3

Instruções do exercicio

exercicio interativo prático