Trainer를 활용한 혼합 정밀도 훈련
혼합 정밀도 훈련을 위해 더 간편한 훈련 인터페이스를 사용하고 싶으신가요? Accelerator를 활용한 훈련 루프 대신, 커스텀 훈련 루프가 필요하지 않은 모델에 적합한 Trainer를 구성해 보겠습니다. 혼합 정밀도 훈련이 적용된 Trainer를 설정해 보세요! trainer.train() 호출로 인해 실행에 다소 시간이 걸릴 수 있습니다.
이 연습은 강의의 일부입니다
PyTorch로 AI 모델 효율적으로 학습시키기
연습 안내
Trainer에서 혼합 정밀도 훈련을 활성화하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()