Rastgele arama uygulama

Hiperparametre araması, farklı hiperparametre değerlerini denemek için hesaplama açısından maliyetli bir yaklaşımdır. Ancak, performans iyileştirmelerine yol açabilir. Bu egzersizde, rastgele arama (random search) algoritmasını uygulayacaksın.

Öğrenme oranı ve momentum için üniform dağılımdan rastgele 10 değer örnekleyeceksin. Bunu yapmak için np.random.uniform() fonksiyonunu kullanacaksın.

numpy paketi np olarak içe aktarılmış durumda ve sonuçlarını görselleştirmek için plot_hyperparameter_search() fonksiyonu oluşturuldu.

Bu egzersiz, kursun bir parçasıdır

PyTorch ile Deep Learning'e Giriş

Kursa Göz Atın

Egzersiz talimatları

Öğrenme oranının (lr) \(10^{-2}\) ile \(10^{-4}\) arasında olması için 2 ile 4 arasında rastgele bir öğrenme oranı katsayısı örnekle.
0.85 ile 0.99 arasında rastgele bir momentum örnekle.

Uygulamalı etkileşimli egzersiz

Bu egzersizi bu örnek kodu tamamlayarak deneyin.

values = []
for idx in range(10):
    # Randomly sample a learning rate factor between 2 and 4
    factor = ____
    lr = 10 ** -factor
    
    # Randomly select a momentum between 0.85 and 0.99
    momentum = ____
    
    values.append((lr, momentum))
       
plot_hyperparameter_search(values)

Kodu Düzenle ve Çalıştır

Bu egzersiz, kursun bir parçasıdır

PyTorch ile Deep Learning'e Giriş

IntermediárioNível de habilidade

4.8+

Kursa Ücretsiz Başla

Otonom araçlar, akıllı telefonlar, arama motorları... Deep learning artık her yerde. Karmaşık modeller kurmaya başlamadan önce, bir deep learning çatısı olan PyTorch’a alışacaksın. Tensörleri nasıl yöneteceğini, PyTorch veri yapılarını nasıl oluşturacağını ve doğrusal katmanlarla PyTorch’ta ilk yapay sinir ağını nasıl kuracağını öğreneceksin.

Exercise 1: PyTorch ile derin öğrenmeye giriş Exercise 2: PyTorch tensörlerine başlangıç Exercise 3: Tensörleri kontrol etme ve ekleme Exercise 4: Sinir ağları ve katmanlar Exercise 5: Doğrusal katman ağı Exercise 6: Ağırlıkları anlama Exercise 7: Gizli katmanlar ve parametreler Exercise 8: İlk sinir ağın Exercise 9: Doğrusal katmanları üst üste koyma Exercise 10: Parametre sayısını sayma

PyTorch’ta bir yapay sinir ağını eğitmek için önce aktivasyon ve kayıp fonksiyonları gibi ek bileşenleri anlaman gerekir. Ardından, bir ağı eğitmenin bu kayıp fonksiyonunu en aza indirmeyi gerektirdiğini ve bunun gradyanlar hesaplanarak yapıldığını göreceksin. Bu gradyanları modelinin parametrelerini güncellemek için nasıl kullanacağını öğreneceksin.

Exercise 1: Aktivasyon fonksiyonlarını keşfetmek Exercise 2: Anlamını etkinleştir!Exercise 3: Sigmoid ve softmax fonksiyonları Exercise 4: İleri geçişi çalıştırma Exercise 5: PyTorch'ta ikili bir sınıflandırıcı oluşturma Exercise 6: Regresyondan çok sınıflı sınıflandırmaya Exercise 7: Model tahminlerini değerlendirmek için loss fonksiyonlarını kullanma Exercise 8: One-hot kodlanmış etiketler oluşturma Exercise 9: Çapraz entropi kaybını hesaplama Exercise 10: Türevleri kullanarak model parametrelerini güncelleme Exercise 11: Model parametrelerine erişme Exercise 12: Ağırlıkları elle güncelleme Exercise 13: PyTorch optimizer'ını kullanma

Artık bir yapay sinir ağının temel bileşenlerini öğrendiğine göre, bir eğitim döngüsü kullanarak bir ağ eğiteceksin. Kaybolan gradyanlar gibi olası sorunları keşfedecek ve alternatif aktivasyon fonksiyonları ile öğrenme oranı ve momentum ayarı gibi stratejilerle bunların üstesinden gelmeyi öğreneceksin.

Exercise 1: Veri yüklemeye daha derin bir bakış Exercise 2: TensorDataset kullanma Exercise 3: DataLoader kullanma Exercise 4: İlk eğitim döngümüzü yazmak Exercise 5: MSELoss kullanma Exercise 6: Bir eğitim döngüsü yazmak Exercise 7: ReLU aktivasyon fonksiyonları Exercise 8: ReLU'yu Uygulama Exercise 9: Leaky ReLU uygulama Exercise 10: Etkinleştirme fonksiyonlarını anlama Exercise 11: Öğrenme oranı ve momentum Exercise 12: Öğrenme oranıyla denemeler Exercise 13: Momentum ile denemeler

Bir deep learning modelini eğitmek bir sanattır ve modelimizin doğru eğitildiğinden emin olmak için eğitim sırasında kayıp veya doğruluk gibi bazı metrikleri takip etmemiz gerekir. Bu metrikleri nasıl hesaplayacağını ve aşırı uyumu nasıl azaltacağını öğreneceğiz.

Exercise 1: Katman başlatma ve transfer learning Exercise 2: İnce ayar süreci Exercise 3: Bir modelin katmanlarını dondur Exercise 4: Katman başlatma Exercise 5: Model performansını değerlendirme Exercise 6: Değerlendirme döngüsünü yazma Exercise 7: torchmetrics ile doğruluk (accuracy) hesaplama Exercise 8: Aşırı uyumla mücadele Exercise 9: Dropout ile denemeler Exercise 10: Aşırı uyumu anlama Exercise 11: Model performansını iyileştirme Exercise 12: Rastgele arama uygulama

Geçerli egzersiz

Exercise 13: Kapanış videosu