1. 학습
  2. /
  3. 강의
  4. /
  5. Llama 3 미세 조정(Fine-Tuning)

Connected

연습 문제

고객 지원 QA를 위한 Llama 파인튜닝

여러분은 고객 지원 챗봇을 만드는 회사에서 일하고 있어요. 팀은 고객 지원 봇에 Llama 모델을 사용하고 있으며, 고객 지원 관련 질의응답 데이터셋으로 파인튜닝해 모델을 개선하려고 합니다. 최고의 성능을 얻기 위해, 팀은 이 작업에 bitext 데이터셋을 사용해 Llama 모델을 파인튜닝할 예정입니다.

훈련 스크립트는 거의 완성되어 있고, 마지막 단계만 남아 있어요. 모델, 토크나이저, 학습 데이터셋, 학습 인자를 하나로 모아 훈련을 시작하는 부분을 완성하면 됩니다.

지침

100 XP
  • Supervised 파인튜닝을 수행할 수 있는 클래스를 해당 라이브러리에서 임포트하세요.
  • Supervised 파인튜닝에 사용하는 클래스를 model, tokenizer, dataset, training_arguments를 전달해 인스턴스화하세요.
  • 인스턴스 메서드를 실행해 모델 파인튜닝을 시작하세요.