Die Architektur des Politiknetzwerks

Baue die Architektur für ein Policy-Netzwerk auf, das du später zum Trainieren deines Policy-Gradienten-Agenten verwenden kannst.

Das Policy-Netzwerk nimmt den Zustand als Eingabe und gibt eine Wahrscheinlichkeit im Aktionsraum aus. Für die Lunar Lander-Umgebung arbeitest du mit vier diskreten Aktionen, also soll dein Netz für jede dieser Aktionen eine Wahrscheinlichkeit ausgeben.

Diese Übung ist Teil des Kurses

Deep Reinforcement Learning in Python

Anleitung zur Übung

Gib die Größe der Ausgabeschicht des Policy-Netzes an. Um flexibel zu sein, verwende den Variablennamen und nicht die tatsächliche Zahl.
Stelle sicher, dass die letzte Ebene Wahrscheinlichkeiten liefert.

Interaktive Übung zum Anfassen

Probieren Sie diese Übung aus, indem Sie diesen Beispielcode ausführen.

class PolicyNetwork(nn.Module):
  def __init__(self, state_size, action_size):
    super(PolicyNetwork, self).__init__()
    self.fc1 = nn.Linear(state_size, 64)
    self.fc2 = nn.Linear(64, 64)
    # Give the desired size for the output layer
    self.fc3 = nn.Linear(64, ____)

  def forward(self, state):
    x = torch.relu(self.fc1(torch.tensor(state)))
    x = torch.relu(self.fc2(x))
    # Obtain the action probabilities
    action_probs = ____(self.fc3(x), dim=-1)
    return action_probs
  
policy_network = PolicyNetwork(8, 4)
action_probs = policy_network(state)
print('Action probabilities:', action_probs)

Bearbeiten und Ausführen von Code

Diese Übung ist Teil des Kurses

Deep Reinforcement Learning in Python

Hohe SchwierigkeitSchwierigkeitsgrad

4.8+

Kurs kostenlos starten

Entdecke, wie Deep Reinforcement Learning das traditionelle Reinforcement Learning verbessert, während du deinen ersten Deep Q Learning-Algorithmus studierst und implementierst.

Exercise 1: Einführung in Deep Reinforcement Learning Exercise 2: Umgebung und Aufbau des neuronalen Netzes Exercise 3: DRL Trainingsschleife Exercise 4: Einführung in Deep Q Learning Exercise 5: Deep Learning und DQN Exercise 6: Die Architektur des Q-Netzes Exercise 7: Instanziierung des Q-Netzes Exercise 8: Der Barebone-Algorithmus DQN Exercise 9: Barebone DQN Aktionsauswahl Exercise 10: Barebone DQN Verlustfunktion Exercise 11: Ausbildung des Barebone DQN

Tauche ein in das Deep Q-learning, indem du den ursprünglichen DQN Algorithmus mit Experience Replay, Epsilon-Greediness und festen Q-Zielen implementierst. Über DQN hinaus wirst du zwei faszinierende Erweiterungen kennenlernen, die die Leistung und Stabilität von Deep Q-learning verbessern: Doppelte DQN und priorisierte Erfahrungswiederholung.

Exercise 1: DQN mit Erlebniswiedergabe Exercise 2: Die doppelendige Warteschlange Exercise 3: Puffer für Erfahrungswiedergabe Exercise 4: DQN mit Erlebniswiedergabe Exercise 5: Der vollständige DQN Algorithmus Exercise 6: Epsilon-Grausamkeit Exercise 7: Feste Q-Ziele Exercise 8: Den kompletten DQN Algorithmus implementieren Exercise 9: Doppelter DQN Exercise 10: Online-Netzwerk und Zielnetzwerk in DDQN Exercise 11: Das Doppelte trainieren DQN Exercise 12: Priorisierte Erfahrungswiedergabe Exercise 13: Priorisierter Erfahrungswiedergabepuffer Exercise 14: Probenahme aus dem Puffer PER Exercise 15: DQN mit priorisierter Erfahrungswiedergabe

Lerne die grundlegenden Konzepte der politischen Gradientenmethoden auf DRL kennen. Du beginnst mit dem politischen Gradiententheorem, das die Grundlage für diese Methoden bildet. Dann implementierst du den REINFORCE Algorithmus, einen leistungsstarken Ansatz zum Lernen von Richtlinien. Das Kapitel führt dich dann durch die Actor-Critic-Methoden und konzentriert sich dabei auf den Advantage Actor-Critic (A2C)-Algorithmus, der die Stärken der Policy-Gradienten- und der wertbasierten Methoden kombiniert, um die Lerneffizienz und die Stabilität zu verbessern.

Exercise 1: Einführung in das Politikgefälle Exercise 2: Die Architektur des Politiknetzwerks

Aktuelle Übung

Exercise 3: Arbeiten mit diskreten Verteilungen Exercise 4: Politisches Gefälle und REINFORCE Exercise 5: Aktionsauswahl in REINFORCE Exercise 6: Training des REINFORCE Algorithmus Exercise 7: Vorteil Schauspieler-Kritiker Exercise 8: Kritiker-Netzwerk Exercise 9: Schauspieler Kritische Verlustberechnungen Exercise 10: Training des A2C-Algorithmus

Erforsche Proximal Policy Optimization (PPO) für eine robuste DRL Leistung. Als Nächstes wirst du die Verwendung eines Entropie-Bonus in PPO untersuchen, der die Erkundung fördert, indem er eine vorzeitige Konvergenz zu deterministischen Strategien verhindert. Du lernst auch etwas über Batch-Updates bei Policy-Gradienten-Methoden. Schließlich lernst du die Optimierung von Hyperparametern mit Optuna kennen, einem leistungsstarken Tool zur Optimierung der Leistung deiner DRL Modelle.

Exercise 1: Optimierung der Politik in der Nähe Exercise 2: Das abgeschnittene Wahrscheinlichkeitsverhältnis Exercise 3: Die beschnittene Surrogat-Zielfunktion Exercise 4: Entropie-Bonus und PPO Exercise 5: Entropie Spielplatz Exercise 6: Training des PPO Algorithmus Exercise 7: Batch-Updates im Policy-Gradienten Exercise 8: Minibatch und DRL Exercise 9: A2C mit Batch-Updates Exercise 10: Hyperparameter-Optimierung mit Optuna Exercise 11: Hyperparameter oder nicht?Exercise 12: Praktische Erfahrung mit Optuna Exercise 13: Herzlichen Glückwunsch!