1. Учиться
    2. /
  2. Courses
    3. /
  3. PyTorch로 배우는 텍스트 딥러닝
Connected

Exercise

BERT를 활용한 전이 학습

PyBooks에서는 감성 분석을 위해 사전 학습된 transformer 모델인 BERT의 성능을 활용하기로 했어요. BERT는 다양한 NLP 작업에서 뛰어난 성능을 보여 왔기 때문에, 이번 용도에 특히 적합해요.

여러분의 과제는 transformers 라이브러리의 BERT 모델을 사용해 이진 감성 분류를 위한 기본 워크플로를 구성하는 것이에요.

다음 항목이 미리 임포트되어 있어요: BertTokenizer, BertForSequenceClassification, torch. 예시 데이터인 texts와 해당 labels도 미리 로드되어 있어요.

Инструкции

100 XP
  • 이진 분류에 적합한 bert-base-uncased 토크나이저와 모델을 로드하세요.
  • return_tensors 인수를 사용해 PyTorch 텐서를 반환하도록 보장하면서, 데이터셋을 토크나이즈하고 모델 입력 형태로 준비하세요.
  • 모델 파라미터를 사용해 옵티마이저를 설정하세요.