Discover what makes the hottest deep learning architecture in AI tick! Learn about the components that make up Transformer models, including the famous self-attention mechanisms described in the renowned paper "Attention is All You Need."

Transformers with PyTorch

Breaking down the Transformer

PyTorch Transformers

Embedding and positional encoding

Creating input embeddings

Creating positional encodings

Multi-head self-attention

Implementing multi-head attention

Starting the MultiHeadAttentionClass

Adding methods to the MultiHeadAttention class

The Building Blocks of Transformer Models

Design transformer encoder and decoder blocks, and combine them with positional encoding, multi-headed attention, and position-wise feed-forward networks to build your very own Transformer architectures. Along the way, you'll develop a deep understanding and appreciation for how transformers work under the hood.

Encoder transformer'lar

İleri beslemeli alt katmanlar

Encoder transformer katmanı

Encoder transformer gövdesi

Transformer başlığını ekleme

Decoder transformerlar

Kendine-dikkat için bir maske tasarlamak

Decoder katmanı

Decoder transformer’ı tamamlama

Encoder-decoder transformer'lar

Decoder katmanına çapraz-dikkat eklemek

Encoder-decoder transformer'ını oluşturma

Tebrikler!

Building Transformer Architectures

LLM'lere daha derinden dal ve transformer mimarisinin derin öğrenimi nasıl dönüştürdüğünü ve üretken yapay zekâ patlamasını nasıl mümkün kıldığını keşfet! Bu kursta, sıfırdan, bileşen bileşen kendi transformer mimarini oluşturmayı öğreneceksin. Token konumlarını nasıl kodlayacağını, attention mekanizması hesaplamalarını nasıl yapacağını ve transformer'ının iç işleyişi üzerinde daha fazla kontrol sağlayacak modüler transformer bileşenlerini nasıl inşa edeceğini öğreneceksin. Bugün sıfırdan LLM kahramanına dönüş!

<h2>Transformatör Mimarisi Hakkında Derinlemesine Bilgi</h2>
Transformatör modelleri, metin modellemede devrim yaratarak, günümüzün büyük dil modellerini (LLM'ler) mümkün kılarak üretken yapay zeka patlamasını başlattı. Bu kursta, konumsal kodlama, dikkat mekanizmaları ve ileri besleme alt katmanları dahil olmak üzere bu mimarinin temel bileşenlerini inceleyeceksiniz. Bu bileşenleri modüler bir şekilde kodlayarak kendi transformatörünüzü adım adım oluşturacaksınız.<br><br><h2>PyTorch ile Dikkat Mekanizmaları Uygulayın</h2>
Dikkat mekanizması, transformatör mimarisinin resmileştirilmesine yardımcı olan önemli bir gelişmedir. Öz-dikkat, dönüştürücülerin tokenler arasındaki ilişkileri daha iyi tanımlamasına olanak tanır ve bu da üretilen metnin kalitesini artırır. Transformatör modellerinizde önemli bir yapı taşı oluşturacak çok başlı dikkat mekanizması sınıfını nasıl oluşturacağınızı öğrenin.<br><br><h2>Kendi Transformatör Modellerinizi Oluşturun</h2>
Yalnızca kodlayıcı, yalnızca kod çözücü ve kodlayıcı-kod çözücü dönüştürücü modelleri oluşturmayı öğrenin. Metin sınıflandırma ve duygu analizi, metin üretimi ve tamamlama, diziden diziye çeviri gibi farklı dil görevleri için bu farklı dönüştürücü mimarilerini nasıl seçeceğinizi ve kodlayacağınızı öğrenin.

Deep Learning for Text with PyTorch

LLM'leri ne harekete geçirir? Transformerlar metin modellemeyi nasıl devrimleştirdi ve AI patlamasını başlattı?

PyTorch ile Transformer Modelleri

Derin Öğrenme Python'da

Büyük Dil Modelleri Geliştirme

Kendine-dikkat için bir maske tasarlamak

PyTorch ile Transformer Modelleri

Egzersiz talimatları

Uygulamalı interaktif egzersiz