Proses fine-tuning

Anda sedang melatih sebuah model pada himpunan data baru dan berpikir dapat menggunakan pendekatan fine-tuning alih-alih melatih dari awal (yaitu, melatih dari bobot yang diinisialisasi secara acak).

Untuk melakukan fine-tuning model pada tugas baru, Anda perlu mengikuti sejumlah langkah yang tercantum di sini.

Latihan ini merupakan bagian dari kursus

Pengantar Deep Learning dengan PyTorch

Latihan interaktif langsung

Ubah teori menjadi aksi dengan salah satu latihan interaktif kami

Latihan ini merupakan bagian dari kursus

Pengantar Deep Learning dengan PyTorch

SkillTag.level.intermediateSkillTag.label

4.8+

Mulai Kursus Gratis

Mobil swakemudi, ponsel pintar, mesin pencari... Deep learning kini ada di mana-mana. Sebelum Anda mulai membangun model yang kompleks, Anda akan berkenalan dengan PyTorch, sebuah kerangka kerja deep learning. Anda akan belajar memanipulasi tensor, membuat struktur data PyTorch, dan membangun neural network pertama Anda di PyTorch dengan lapisan linear.

Exercise 1: Pengantar deep learning dengan PyTorch Exercise 2: Mulai menggunakan tensor PyTorch Exercise 3: Memeriksa dan menambahkan tensor Exercise 4: Jaringan saraf dan lapisan Exercise 5: Jaringan layer linear Exercise 6: Memahami bobot Exercise 7: Lapisan tersembunyi dan parameter Exercise 8: Jaringan saraf pertama Anda Exercise 9: Menumpuk layer linear Exercise 10: Menghitung jumlah parameter

Untuk melatih neural network di PyTorch, Anda terlebih dahulu perlu memahami komponen tambahan, seperti fungsi aktivasi dan fungsi loss. Anda kemudian akan menyadari bahwa melatih jaringan berarti meminimalkan fungsi loss tersebut, yang dilakukan dengan menghitung gradien. Anda akan mempelajari cara menggunakan gradien ini untuk memperbarui parameter model.

Exercise 1: Mengenal fungsi aktivasi Exercise 2: Aktifkan pemahaman Anda!Exercise 3: Fungsi sigmoid dan softmax Exercise 4: Menjalankan forward pass Exercise 5: Membangun pengklasifikasi biner di PyTorch Exercise 6: Dari regresi ke klasifikasi multi-kelas Exercise 7: Menggunakan fungsi loss untuk menilai prediksi model Exercise 8: Membuat label one-hot encoded Exercise 9: Menghitung cross-entropy loss Exercise 10: Menggunakan turunan untuk memperbarui parameter model Exercise 11: Mengakses parameter model Exercise 12: Memperbarui bobot secara manual Exercise 13: Menggunakan optimizer PyTorch

Sekarang setelah Anda mempelajari komponen kunci dari sebuah neural network, Anda akan melatihnya menggunakan training loop. Anda akan menelusuri potensi masalah seperti vanishing gradients dan mempelajari strategi untuk mengatasinya, seperti fungsi aktivasi alternatif serta penyetelan learning rate dan momentum.

Exercise 1: Pendalaman cara memuat data Exercise 2: Menggunakan TensorDataset Exercise 3: Menggunakan DataLoader Exercise 4: Menulis loop pelatihan pertama kita Exercise 5: Menggunakan MSELoss Exercise 6: Menulis training loop Exercise 7: Fungsi aktivasi ReLU Exercise 8: Mengimplementasikan ReLU Exercise 9: Menerapkan leaky ReLU Exercise 10: Memahami fungsi aktivasi Exercise 11: Learning rate dan momentum Exercise 12: Mencoba berbagai nilai learning rate Exercise 13: Bereksperimen dengan momentum

Melatih model deep learning adalah sebuah seni, dan untuk memastikan model kita dilatih dengan benar, kita perlu memantau metrik tertentu selama pelatihan, seperti loss atau akurasi. Kita akan mempelajari cara menghitung metrik tersebut dan cara mengurangi overfitting.

Exercise 1: Inisialisasi layer dan transfer learning Exercise 2: Proses fine-tuning

Latihan Saat Ini

Exercise 3: Bekukan layer pada sebuah model Exercise 4: Inisialisasi layer Exercise 5: Mengevaluasi kinerja model Exercise 6: Menulis evaluation loop Exercise 7: Menghitung akurasi menggunakan torchmetrics Exercise 8: Mengatasi overfitting Exercise 9: Mencoba dropout Exercise 10: Memahami overfitting Exercise 11: Meningkatkan kinerja model Exercise 12: Menerapkan pencarian acak Exercise 13: Video penutup