1. Học hỏi
  2. /
  3. Khoa Học
  4. /
  5. Llama 3 미세 조정(Fine-Tuning)

Connected

Bài tập

Llama 학습 인자 설정하기

여러분은 고객 지원 챗봇에 사용되는 Llama 모델을, 질의응답에 맞춰 제작한 고객 지원 데이터로 미세 조정해야 합니다. 최고의 성능을 확보하기 위해 팀에서는 bitext 데이터셋을 사용해 이 작업에 맞게 Llama 모델을 미세 조정할 예정입니다.

먼저 학습 스크립트가 정상 작동하는지 확인하기 위해 학습 루프를 시험 실행하려고 합니다. 따라서 학습 인자에서 학습률을 작게 설정하고, 학습 스텝 수도 소수로 제한해 시작해 보세요.

Hướng dẫn

100 XP
  • 학습 인자를 저장할 헬퍼 클래스를 임포트하고 인스턴스화하세요.
  • 학습률 인자를 2e-3 값으로 설정하세요.