Discover how deep reinforcement learning improves upon traditional Reinforcement Learning while studying and implementing your first Deep Q Learning algorithm.

Introduction to deep reinforcement learning

Environment and neural network setup

DRL training loop

Introduction to deep Q learning

Deep learning and DQN

The Q-Network architecture

Instantiating the Q-Network

The barebone DQN algorithm

Barebone DQN action selection

Barebone DQN loss function

Training the barebone DQN

Introduction to Deep Reinforcement Learning

Dive into Deep Q-learning by implementing the original DQN algorithm, featuring Experience Replay, epsilon-greediness and fixed Q-targets. Beyond DQN, you will then explore two fascinating extensions that improve the performance and stability of Deep Q-learning:  Double DQN and Prioritized Experience Replay.

DQN with experience replay

The double-ended queue

Experience replay buffer

The complete DQN algorithm

Epsilon-greediness

Fixed Q-targets

Implementing the complete DQN algorithm

Double DQN

Online network and target network in DDQN

Training the double DQN

Prioritized experience replay

Prioritized experience replay buffer

Sampling from the PER buffer

DQN with prioritized experience replay

Deep Q-learning

Learn about the foundational concepts of policy gradient methods found in DRL. You will begin with the policy gradient theorem, which forms the basis for these methods. Then, you will implement the REINFORCE algorithm, a powerful approach to learning policies. The chapter will then guide you through Actor-Critic methods, focusing on the Advantage Actor-Critic (A2C) algorithm, which combines the strengths of both policy gradient and value-based methods to enhance learning efficiency and stability.

Introduction to policy gradient

The policy network architecture

Working with discrete distributions

Policy gradient and REINFORCE

Action selection in REINFORCE

Training the REINFORCE algorithm

Advantage Actor Critic

Critic network

Actor Critic loss calculations

Training the A2C algorithm

Introduction to Policy Gradient Methods

Explore Proximal Policy Optimization (PPO) for robust DRL performance. Next, you will examine using an entropy bonus in PPO, which encourages exploration by preventing premature convergence to deterministic policies. You'll also learn about batch updates in policy gradient methods. Finally, you will learn about hyperparameter optimization with Optuna, a powerful tool for optimizing performance in your DRL models.

Proximal policy optimization

De afgeknipte waarschijnlijkheidsratio

De geclipte surrogaatdoelfunctie

Entropiebonus en PPO

Entropie-speeltuin

De PPO-algoritme trainen

Batch-updates in policy gradient

Minibatch en DRL

A2C met batch-updates

Hyperparameteroptimalisatie met Optuna

Opties

Hyperparameter

Geen hyperparameter

Hyperparameter of niet?

Aan de slag met Optuna

Gefeliciteerd!

Proximal Policy Optimization and DRL Tips

Ga aan de slag met het versterken van machines via Deep Reinforcement Learning (DRL). Deze cursus biedt hands-on ervaring met krachtige algoritmen met PyTorch en Gymnasium.
Begin met de basis van DRL en traditioneel Reinforcement Learning, en implementeer daarna Deep Q-Networks (DQN) met geavanceerde verfijningen zoals Prioritized Experience Replay.
Breid je vaardigheden uit met policy-gebaseerde methoden en verken industriestandaard algoritmen zoals Proximal Policy Optimization (PPO), voordat je je modellen optimaliseert met Optuna.

Ontdek de nieuwste technieken waarmee machines kunnen leren en communiceren met hun omgeving. Je duikt in de wereld van Deep Reinforcement Learning (DRL) en doet praktijkervaring op met de krachtigste algoritmen die dit vakgebied vooruit helpen. Je gaat PyTorch en de Gymnasium-omgeving gebruiken om je eigen agents te bouwen.

<h2>Leer de basis van diepgaand versterkend leren</h2>

Onze reis begint met de basis van DRL en hoe dat zich verhoudt tot traditioneel reinforcement learning. Van daaruit gaan we snel verder met het implementeren van Deep Q-Networks (DQN) in PyTorch, inclusief geavanceerde verfijningen zoals Double DQN en Prioritized Experience Replay om je modellen een boost te geven.

Breng je vaardigheden naar een hoger niveau terwijl je beleidsmatige methoden ontdekt. Je leert en past belangrijke policy-gradient-technieken toe, zoals REINFORCE en Actor-Critic-methoden.

<h2>Gebruik geavanceerde algoritmen</h2>

Je komt krachtige DRL-algoritmen tegen die tegenwoordig veel in de industrie worden gebruikt, zoals Proximal Policy Optimization (PPO). Je doet praktijkervaring op met de technieken die zorgen voor doorbraken in robotica, game-AI en nog veel meer. Tot slot leer je hoe je je modellen kunt verbeteren met Optuna voor het afstemmen van hyperparameters.

Aan het einde van deze cursus heb je de vaardigheden om deze geavanceerde technieken toe te passen op echte problemen en het volledige potentieel van DRL te benutten!

Intermediate Deep Learning with PyTorch

Reinforcement Learning with Gymnasium in Python

Leer en gebruik krachtige Deep Reinforcement Learning-algoritmen, inclusief verfijning en optimalisatie.

Deep Reinforcement Learning in Python

Leer en gebruik krachtige Deep Reinforcement Learning-algoritmen, inclusief verfijnings- en optimalisatietechnieken.

Batch-updates in policy gradient

Create Your Free Account