Înțelegerea funcțiilor de activare

Ai învățat totul despre ReLU și leaky ReLU. Care dintre următoarele două afirmații sunt Adevărate?

Acest exercițiu face parte din cursul

Introducere în Deep Learning cu PyTorch

Vezi cursul

Exercițiu interactiv practic

Transformă teoria în practică cu unul dintre exercițiile noastre interactive

Începe exercițiul

Acest exercițiu face parte din cursul

Introducere în Deep Learning cu PyTorch

SkillTag.level.intermediateSkillTag.label

4.8+

4583 reviews

Începe cursul gratuit

Mașini autonome, smartphone-uri, motoare de căutare... Învățarea profundă este acum peste tot. Înainte de a construi modele complexe, te vei familiariza cu PyTorch, un framework de deep learning. Vei învăța cum să manipulezi tensori, să creezi structuri de date PyTorch și să construiești prima ta rețea neuronală în PyTorch folosind straturi liniare.

Exercise 1: Introducere în deep learning cu PyTorch Exercise 2: Primii pași cu tensorii PyTorch Exercise 3: Verificarea și adunarea tensorilor Exercise 4: Rețele neuronale și straturi Exercise 5: Rețea cu strat liniar Exercise 6: Înțelegerea ponderilor Exercise 7: Straturi ascunse și parametri Exercise 8: Prima ta rețea neuronală Exercise 9: Stivuirea straturilor liniare Exercise 10: Numărarea parametrilor

Pentru a antrena o rețea neuronală în PyTorch, va trebui mai întâi să înțelegi componente suplimentare, precum funcțiile de activare și funcțiile de pierdere. Vei descoperi că antrenarea unei rețele presupune minimizarea funcției de pierdere, ceea ce se realizează prin calculul gradienților. Vei învăța cum să folosești acești gradienți pentru a actualiza parametrii modelului tău.

Exercise 1: Descoperă funcțiile de activare Exercise 2: Testează-ți înțelegerea!Exercise 3: Funcțiile sigmoid și softmax Exercise 4: Executarea unui pas înainte Exercise 5: Construirea unui clasificator binar în PyTorch Exercise 6: De la regresie la clasificare multi-clasă Exercise 7: Utilizarea funcțiilor de pierdere pentru evaluarea predicțiilor modelului Exercise 8: Crearea etichetelor codificate one-hot Exercise 9: Calcularea pierderii de entropie încrucișată Exercise 10: Utilizarea derivatelor pentru actualizarea parametrilor modelului Exercise 11: Accesarea parametrilor modelului Exercise 12: Actualizarea manuală a ponderilor Exercise 13: Utilizarea optimizatorului PyTorch

Acum că ai învățat componentele esențiale ale unei rețele neuronale, o vei antrena folosind o buclă de antrenament. Vei explora probleme potențiale precum dispariția gradienților și vei învăța strategii pentru a le rezolva, cum ar fi funcții de activare alternative și ajustarea ratei de învățare și a momentului.

Exercise 1: O privire mai atentă asupra încărcării datelor Exercise 2: Folosirea TensorDataset Exercise 3: Utilizarea DataLoader Exercise 4: Scrierea primei noastre bucle de antrenament Exercise 5: Folosirea MSELoss Exercise 6: Scrierea unei bucle de antrenament Exercise 7: Funcții de activare ReLU Exercise 8: Implementarea ReLU Exercise 9: Implementarea Leaky ReLU Exercise 10: Înțelegerea funcțiilor de activare

Exercițiul curent

Exercise 11: Rata de învățare și momentum Exercise 12: Experimentează cu rata de învățare Exercise 13: Experimentând cu momentul

Antrenarea unui model de deep learning este o artă, iar pentru a ne asigura că modelul este antrenat corect, trebuie să urmărim anumite metrici în timpul antrenamentului, precum pierderea sau acuratețea. Vei învăța cum să calculezi astfel de metrici și cum să reduci supraadaptarea.

Exercise 1: Inițializarea straturilor și transfer learning Exercise 2: Procesul de fine-tuning Exercise 3: Înghețarea straturilor unui model Exercise 4: Inițializarea straturilor Exercise 5: Evaluarea performanței modelului Exercise 6: Scrierea buclei de evaluare Exercise 7: Calcularea acurateței cu torchmetrics Exercise 8: Combaterea supraantrenării Exercise 9: Experimentând cu dropout Exercise 10: Înțelegerea overfittingului Exercise 11: Îmbunătățirea performanței modelului Exercise 12: Implementarea căutării aleatoare Exercise 13: Video de încheiere