1. Learn
    2. /
  2. Courses
    3. /
  3. Llama 3 미세 조정(Fine-Tuning)
Connected

Exercise

LoRA 어댑터 사용하기

여러분은 고객이 자주 묻는 간단한 질문을 자동으로 해결해 주는 고객 지원 챗봇을 제공하는 스타트업에서 일하고 있어요.

bitext 데이터셋을 사용해 고객 지원 질문에 답할 수 있도록 Maykeye/TinyLLama-v0 언어 모델을 파인튜닝하라는 과제를 받았어요. 이 모델은 여러분 팀이 제공하는 챗봇에 사용될 예정이에요. 학습 스크립트는 거의 완성된 상태지만, 배포 시 더 효율적으로 학습 파이프라인을 빠르게 완료할 수 있도록 LoRA를 파인튜닝에 통합하려고 합니다.

관련된 모델, 토크나이저, 데이터셋, 학습 인자는 각각 model, tokenizer, dataset, training_arguments에 미리 로드되어 있어요.

Instructions

100 XP
  • 관련 라이브러리에서 LoRA 설정을 가져오세요.
  • 기본값으로 LoRA 설정 파라미터를 초기화해 lora_config에 할당하세요.
  • SFTTrainer에 LoRA 파라미터를 통합하세요.