도함수를 사용해 모델 파라미터 업데이트하기

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

이 연습은 강의의 일부입니다

PyTorch로 배우는 딥러닝 입문

SkillTag.level.intermediateSkillTag.label

4.8+

무료로 강의 시작하기

자율주행차, 스마트폰, 검색 엔진까지... 이제 딥러닝은 어디에나 있습니다. 복잡한 모델을 만들기 전에, 딥러닝 프레임워크인 PyTorch에 익숙해지세요. 텐서를 다루고, PyTorch 데이터 구조를 만들며, 선형 레이어로 첫 신경망을 구축하는 법을 배웁니다.

Exercise 1: PyTorch로 시작하는 딥러닝 소개 Exercise 2: PyTorch 텐서 시작하기 Exercise 3: 텐서 확인 및 추가하기 Exercise 4: Neural networks와 레이어 Exercise 5: 선형 계층 네트워크 Exercise 6: 가중치 이해하기 Exercise 7: 히든 레이어와 파라미터 Exercise 8: 첫 번째 신경망 만들기 Exercise 9: 선형 계층 쌓기 Exercise 10: 파라미터 개수 세기

PyTorch에서 신경망을 학습하려면 먼저 활성화 함수와 손실 함수 같은 추가 구성 요소를 이해해야 해요. 그런 다음, 네트워크를 학습시키려면 손실 함수를 최소화해야 하며, 이를 위해 기울기를 계산한다는 점을 알게 됩니다. 이 기울기를 사용해 모델의 파라미터를 업데이트하는 방법을 배우게 됩니다.

Exercise 1: 활성화 함수 알아보기 Exercise 2: 활성화 함수로 이해를 켜 볼까요!Exercise 3: 시그모이드와 소프트맥스 함수 Exercise 4: 순전파 실행하기 Exercise 5: PyTorch로 이진 분류기 만들기 Exercise 6: 회귀에서 다중 클래스 분류로 Exercise 7: 손실 함수를 사용해 모델 예측 평가하기 Exercise 8: 원-핫 인코딩 레이블 만들기 Exercise 9: 크로스 엔트로피 손실 계산하기 Exercise 10: 도함수를 사용해 모델 파라미터 업데이트하기

현재 연습

Exercise 11: 모델 파라미터에 접근하기 Exercise 12: 가중치를 수동으로 업데이트하기 Exercise 13: PyTorch 옵티마이저 사용하기

이제 신경망의 핵심 요소를 배웠으니, 학습 루프를 사용해 직접 모델을 학습해 볼 거예요. 기울기 소실 같은 잠재적 문제를 살펴보고, 대체 활성화 함수, 학습률과 모멘텀 튜닝 등으로 이를 해결하는 전략을 배웁니다.

Exercise 1: 데이터 로딩 더 깊게 살펴보기 Exercise 2: TensorDataset 사용하기 Exercise 3: DataLoader 사용하기 Exercise 4: 첫 번째 학습 루프 작성하기 Exercise 5: MSELoss 사용하기 Exercise 6: 훈련 루프 작성하기 Exercise 7: ReLU 활성화 함수 Exercise 8: ReLU 구현하기 Exercise 9: Leaky ReLU 구현하기 Exercise 10: 활성화 함수 이해하기 Exercise 11: Learning rate와 momentum Exercise 12: 러닝 레이트 실험하기 Exercise 13: 모멘텀 실험해 보기

딥러닝 모델 학습은 일종의 노하우가 필요한 작업이에요. 모델이 제대로 학습되고 있는지 확인하려면 손실이나 정확도 같은 지표를 학습 중에 추적해야 합니다. 이러한 지표를 계산하는 방법과 과적합을 줄이는 방법을 배웁니다.

Exercise 1: 레이어 초기화와 전이 학습 Exercise 2: 파인튜닝 프로세스 Exercise 3: 모델의 레이어 동결하기 Exercise 4: 레이어 초기화 Exercise 5: 모델 성능 평가 Exercise 6: 평가 루프 작성하기 Exercise 7: torchmetrics로 정확도 계산하기 Exercise 8: 과적합 줄이기 Exercise 9: Dropout 실험해 보기 Exercise 10: 과적합 이해하기 Exercise 11: 모델 성능 개선하기 Exercise 12: 랜덤 서치 구현하기 Exercise 13: 마무리 영상