Discover what makes the hottest deep learning architecture in AI tick! Learn about the components that make up Transformer models, including the famous self-attention mechanisms described in the renowned paper "Attention is All You Need."

PyTorch ile Transformer'lar

Transformer'ı parçalara ayırma

PyTorch Transformer'ları

Gömme ve konumsal kodlama

Girdi gömmeleri oluşturma

Konumsal kodlamalar oluşturma

Çok başlı öz-dikkat

Çok başlı dikkat mekanizmasını uygulama

MultiHeadAttentionClass'e Başlama

MultiHeadAttention sınıfına yöntemler ekleme

The Building Blocks of Transformer Models

Design transformer encoder and decoder blocks, and combine them with positional encoding, multi-headed attention, and position-wise feed-forward networks to build your very own Transformer architectures. Along the way, you'll develop a deep understanding and appreciation for how transformers work under the hood.

Encoder transformers

Feed-forward sublayers

The encoder transformer layer

The encoder transformer body

Adding the transformer head

Decoder transformers

Designing a mask for self-attention

The decoder layer

Completing the decoder transformer

Encoder-decoder transformers

Adding cross-attention to the decoder layer

Constructing the encoder-decoder transformer

Congratulations!

Building Transformer Architectures

LLM'lere daha derinden dal ve transformer mimarisinin derin öğrenimi nasıl dönüştürdüğünü ve üretken yapay zekâ patlamasını nasıl mümkün kıldığını keşfet! Bu kursta, sıfırdan, bileşen bileşen kendi transformer mimarini oluşturmayı öğreneceksin. Token konumlarını nasıl kodlayacağını, attention mekanizması hesaplamalarını nasıl yapacağını ve transformer'ının iç işleyişi üzerinde daha fazla kontrol sağlayacak modüler transformer bileşenlerini nasıl inşa edeceğini öğreneceksin. Bugün sıfırdan LLM kahramanına dönüş!

<h2>Transformatör Mimarisi Hakkında Derinlemesine Bilgi</h2>
Transformatör modelleri, metin modellemede devrim yaratarak, günümüzün büyük dil modellerini (LLM'ler) mümkün kılarak üretken yapay zeka patlamasını başlattı. Bu kursta, konumsal kodlama, dikkat mekanizmaları ve ileri besleme alt katmanları dahil olmak üzere bu mimarinin temel bileşenlerini inceleyeceksiniz. Bu bileşenleri modüler bir şekilde kodlayarak kendi transformatörünüzü adım adım oluşturacaksınız.<br><br><h2>PyTorch ile Dikkat Mekanizmaları Uygulayın</h2>
Dikkat mekanizması, transformatör mimarisinin resmileştirilmesine yardımcı olan önemli bir gelişmedir. Öz-dikkat, dönüştürücülerin tokenler arasındaki ilişkileri daha iyi tanımlamasına olanak tanır ve bu da üretilen metnin kalitesini artırır. Transformatör modellerinizde önemli bir yapı taşı oluşturacak çok başlı dikkat mekanizması sınıfını nasıl oluşturacağınızı öğrenin.<br><br><h2>Kendi Transformatör Modellerinizi Oluşturun</h2>
Yalnızca kodlayıcı, yalnızca kod çözücü ve kodlayıcı-kod çözücü dönüştürücü modelleri oluşturmayı öğrenin. Metin sınıflandırma ve duygu analizi, metin üretimi ve tamamlama, diziden diziye çeviri gibi farklı dil görevleri için bu farklı dönüştürücü mimarilerini nasıl seçeceğinizi ve kodlayacağınızı öğrenin.

Deep Learning for Text with PyTorch

LLM'leri ne harekete geçirir? Transformerlar metin modellemeyi nasıl devrimleştirdi ve AI patlamasını başlattı?

Çok başlı öz-dikkat

Create Your Free Account