Zacznij terazZacznij za darmo

Trenowanie algorytmu A2C

Czas wytrenować Lunar Landera za pomocą algorytmu A2C! Masz już wszystkie potrzebne elementy – teraz wystarczy je połączyć w całość.

Sieci aktora i krytyka zostały zainicjalizowane jako actor i critic, podobnie jak ich optymalizatory: actor_optimizer i critic_optimizer.

Dostępne są tu również funkcja select_action() z algorytmu REINFORCE oraz funkcja calculate_losses() z poprzedniego ćwiczenia.

To ćwiczenie jest częścią kursu

Głębokie uczenie ze wzmocnieniem w Pythonie

Zobacz kurs

Instrukcje do ćwiczenia

  • Niech aktor wybierze akcję na podstawie bieżącego stanu.
  • Oblicz straty dla aktora i krytyka.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

for episode in range(10):
    state, info = env.reset()
    done = False
    episode_reward = 0
    step = 0
    while not done:
        step += 1
        if done:
            break
        # Select the action
        ____
        next_state, reward, terminated, truncated, _ = env.step(action)
        done = terminated or truncated
        episode_reward += reward
        # Calculate the losses
        ____, ____ = ____(
            critic, action_log_prob, 
            reward, state, next_state, done)        
        actor_optimizer.zero_grad()
        actor_loss.backward()
        actor_optimizer.step()
        critic_optimizer.zero_grad()
        critic_loss.backward()
        critic_optimizer.step()
        state = next_state
    describe_episode(episode, reward, episode_reward, step)
Edytuj i uruchom kod