1. 학습
  2. /
  3. 강의
  4. /
  5. Llama 3 미세 조정(Fine-Tuning)

Connected

연습 문제

사용자 정의 레시피 정의하기

사전 학습된 Llama 모델을 특정 구성으로 미세 조정해 달라는 고객 요청을 받았습니다. TorchTune을 사용해 fine-tuning을 진행할 계획이므로, fine-tuning 작업에 사용할 사용자 정의 레시피의 요구사항을 저장할 Python 딕셔너리를 준비해야 합니다.

지침

100 XP
  • 딕셔너리에 고객 요구사항을 지정하세요. 먼저 torchtune.models.llama3_2.llama3_2_1b 모델을 추가합니다.
  • batch size를 8로, GPU 디바이스를 추가하세요.