加入 transformer head
現在要設計一個可用於分類任務（例如情感分析或類別歸納）的 transformer head。你將定義一個 ClassifierHead 類別，建立 body 與 head 的實例，然後將一系列的權杖 ID 依序傳入兩者，測試它們是否如預期運作。
注意：由於這個模型尚未訓練，輸出目前沒有意義。不過，先測試程式碼能否處理輸入，並以你預期的形式產生輸出，是很好的檢查方式。
本練習屬於課程
Transformer Models with PyTorch
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
# Complete the classification head
class ClassifierHead(nn.Module):
def __init__(self, d_model, num_classes):
super().__init__()
self.fc = ____
def forward(self, x):
logits = self.fc(x)
return F.____(logits, dim=-1)