Fine-tuning do Llama para perguntas e respostas de suporte ao cliente
Você trabalha em uma empresa que cria chatbots de suporte ao cliente. Sua equipe usa os modelos Llama no bot de suporte e você quer melhorar o modelo fazendo fine-tuning em um conjunto de dados de perguntas e respostas relacionado ao atendimento. Para garantir o melhor desempenho desses modelos, sua equipe vai fazer o fine-tuning de um modelo Llama para essa tarefa usando o conjunto de dados bitext.
O script de treinamento já está quase completo; só falta a etapa final, em que você reúne o modelo, o tokenizer, o conjunto de dados de treinamento e os argumentos de treinamento e inicia o treinamento.
Este exercicio faz parte do curso
Ajuste Fino com Llama 3
Instruções do exercicio
- Importe da biblioteca a classe que permite realizar o fine-tuning supervisionado.
- Instancie a classe usada para fine-tuning supervisionado passando
model,tokenizer,datasetetraining_arguments. - Execute o método da instância para iniciar o fine-tuning do seu modelo.
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()