1. 학습
    2. /
  2. 강의
    3. /
  3. PyTorch로 AI 모델 효율적으로 학습시키기
Connected

연습 문제

Accelerator를 활용한 혼합 정밀도 훈련

Accelerator를 사용해 언어 번역 모델의 혼합 정밀도 훈련을 위한 PyTorch 루프를 간결하게 구성해 보세요. Accelerator를 활용한 새로운 훈련 루프를 작성해 봅시다!

dataset, model, dataloader, optimizer 객체는 미리 로드되어 있습니다.

지침

100 XP
  • Accelerator에서 FP16을 사용해 혼합 정밀도 훈련을 활성화하세요.
  • 루프 시작 전에 혼합 정밀도 훈련을 위한 훈련 객체를 준비하세요.
  • 혼합 정밀도 훈련을 위해 손실의 그래디언트를 계산하세요.