1. 학습
    2. /
  2. 강의
    3. /
  3. PyTorch로 배우는 Transformer 모델
Connected

연습 문제

인코더 트랜스포머 본체

인코더 전용 트랜스포머 본체가 거의 완성되었어요! 지금까지 만든 InputEmbeddings, PositionalEncoding, EncoderLayer 클래스를 하나로 묶어 TransformerEncoder 클래스를 만들어 보세요.

지침

100 XP
  • 토큰 임베딩, 위치 인코딩, 인코더 레이어를 정의하세요 (num_layers개의 인코더 레이어를 리스트 컴프리헨션으로 생성).
  • 이 레이어들을 순서대로 통과하는 forward 패스를 구현하세요.