Activatiefuncties vergelijken

Activatiefuncties vergelijken vraagt wat code, maar niets wat je niet kunt!

Je gaat verschillende activatiefuncties uitproberen op het multi-labelmodel dat je in hoofdstuk 2 bouwde voor je irrigatiemachine op de boerderij. De functie get_model('relu') geeft een kopie van dit model terug en past de activatiefunctie 'relu' toe op de verborgen laag.

Je loopt door meerdere activatiefuncties heen, maakt voor elke functie een nieuw model en traint het. Door de history-callback in een dictionary op te slaan, kun je in de volgende oefening visualiseren welke activatiefunctie het beste presteerde!

X_train, y_train, X_test, y_test staan klaar om te gebruiken bij het trainen van je modellen.

Deze oefening maakt deel uit van de cursus

Introductie tot Deep Learning met Keras

Oefeninstructies

Vul de array met activatiefuncties aan met relu, leaky_relu, sigmoid en tanh.
Haal in elke iteratie een nieuw model op met get_model() en geef de huidige activatiefunctie als parameter door.
Train je model met de trainings- en validation_data, gebruik 20 epochs en zet verbose op 0.

Interactieve oefening met praktijkervaring

Probeer deze oefening door deze voorbeeldcode aan te vullen.

# Activation functions to try
activations = [____, ____, ____, ____]

# Loop over the activation functions
activation_results = {}

for act in activations:
  # Get a new model with the current activation
  model = ____
  # Fit the model and store the history results
  h_callback = ____
  activation_results[act] = h_callback

Code bewerken en uitvoeren

Deze oefening maakt deel uit van de cursus

Introductie tot Deep Learning met Keras

SkillTag.level.intermediateSkillTag.label

4.8+

Begin gratis met de cursus

In dit eerste hoofdstuk maak je kennis met neurale netwerken, begrijp je welke soorten problemen ze kunnen oplossen en wanneer je ze gebruikt. Je bouwt ook meerdere netwerken en redt de aarde door een regressiemodel te trainen dat de baan van een naderende meteoor benadert!

Exercise 1: Wat is Keras?Exercise 2: Keras beschrijven Exercise 3: Zou jij deep learning gebruiken?Exercise 4: Je eerste neuraal netwerk Exercise 5: Hallo, nets!Exercise 6: Parameters tellen Exercise 7: Bouw zoals getoond!Exercise 8: Een meteorietinslag overleven Exercise 9: Een model specificeren Exercise 10: Training Exercise 11: De baan voorspellen!

Aan het einde van dit hoofdstuk weet je hoe je binaire, multiclass- en multilabel-problemen met neurale netwerken oplost. Dit doe je aan de hand van problemen zoals het detecteren van valse dollarbiljetten, bepalen wie welke pijl op een bord heeft gegooid, en het bouwen van een slim systeem om je boerderij te bewateren. Je kunt ook trainingsstatistieken van je model plotten en het trainen stoppen en je modellen opslaan wanneer ze niet meer verbeteren.

Exercise 1: Binaire classificatie Exercise 2: Dollarbiljetten verkennen Exercise 3: Een binaire classificatiemodel Exercise 4: Is dit dollarbiljet nep?Exercise 5: Multiklassenclassificatie Exercise 6: Een multi-class model Exercise 7: Bereid je gegevensset voor Exercise 8: Trainen op darters Exercise 9: Softmax-voorspellingen Exercise 10: Multi-labelclassificatie Exercise 11: Een irrigatiemachine Exercise 12: Trainen met meerdere labels Exercise 13: Keras-callbacks Exercise 14: De history-callback Exercise 15: Je model vroegtijdig stoppen Exercise 16: Een combinatie van callbacks

In de vorige hoofdstukken heb je al veel modellen getraind! Nu leer je hoe je learning curves interpreteert om je modellen te begrijpen terwijl ze trainen. Je visualiseert ook de effecten van activatiefuncties, batchgroottes en batch-normalization. Tot slot leer je hoe je automatische hyperparameteroptimalisatie uitvoert op je Keras-modellen met sklearn.

Exercise 1: Leercurves Exercise 2: Cijfers leren herkennen Exercise 3: Overfit het model?Exercise 4: Hebben we meer data nodig?Exercise 5: Activatiefuncties Exercise 6: Verschillende activatiefuncties Exercise 7: Activatiefuncties vergelijken

Huidige oefening

Exercise 8: Activatiefuncties vergelijken II Exercise 9: Batchgrootte en batch-normalisatie Exercise 10: Batch-groottes aanpassen Exercise 11: Batch-normalisatie toepassen op een bekend model Exercise 12: Effecten van batch-normalization Exercise 13: Hyperparameterafstemming Exercise 14: Een model voorbereiden op tuning Exercise 15: Parameters van het model afstemmen Exercise 16: Trainen met cross-validatie

Tijd voor meer geavanceerde architecturen! Je maakt een autoencoder om ruis uit afbeeldingen te reconstrueren, visualiseert activaties van convolutionele neurale netwerken, gebruikt diepe voorgetrainde modellen om afbeeldingen te classificeren en leert meer over recurrente neurale netwerken en werken met tekst terwijl je een netwerk bouwt dat het volgende woord in een zin voorspelt.

Exercise 1: Tensors, lagen en auto-encoders Exercise 2: Het is een stroom van tensors Exercise 3: Neurale scheiding Exercise 4: Een autoencoder bouwen Exercise 5: Ontruisen als een autoencoder Exercise 6: Introductie tot CNN's Exercise 7: Een CNN-model bouwen Exercise 8: Kijken naar convoluties Exercise 9: Je invoerafbeelding voorbereiden Exercise 10: Een model uit de echte wereld gebruiken Exercise 11: Introductie tot LSTM's Exercise 12: Tekstvoorspelling met LSTM's Exercise 13: Bouw je LSTM-model Exercise 14: Decodeer je voorspellingen Exercise 15: Test je model!Exercise 16: Je bent klaar!