PyTorch Transformer'ları
Artık transformer mimarisinin farklı bileşenlerine aşina olduğuna göre, bir tane tanımlama zamanı! Senin için nn olarak içe aktarılan torch.nn modülü, bunu sadece birkaç satır kodla yapmanın gerçekten güzel bir yolunu sunar.
Bu egzersiz
PyTorch ile Transformer Modelleri
kursunun bir parçasıdırEgzersiz talimatları
8dikkat başlığı,6kodlayıcı ve çözücü katmanı olan ve girdi dizi gömmeleri uzunluğu1536olacak bir transformer tanımla.- Model mimarisini görmek için model nesnesini yazdır.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
# Define the transformer model
model = ____
# Print the model object
print(____)