НачатьНачать бесплатно

Сравнение политик

Вам даны две функции ценности состояний (value_function_1 и value_function_2), соответствующие двум различным политикам в среде MyGridWorld. Ваша задача — сравнить эти функции ценности для каждого состояния и определить, какая политика эффективнее.

Переменная num_states уже доступна для использования.

Это упражнение является частью курса

Обучение с подкреплением с Gymnasium на Python

Посмотреть курс

Инструкции к упражнению

  • Создайте список one_is_better из булевых значений, где каждый элемент проверяет, является ли значение состояния в value_function_1 большим или равным значению того же состояния в value_function_2.
  • Создайте список two_is_better из булевых значений, где каждый элемент проверяет, является ли значение состояния в value_function_2 большим или равным значению того же состояния в value_function_1.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

value_function_1 = {0: 1, 1: 2, 2: 3, 3: 7, 4: 6, 5: 4, 6: 8, 7: 10, 8: 0}
value_function_2 = {0: 7, 1: 8, 2: 9, 3: 7, 4: 9, 5: 10, 6: 8, 7: 10, 8: 0}

# Check for each value in policy 1 if it is better than policy 2
one_is_better = [____ >= ____ for state in range(num_states)]

# Check for each value in policy 2 if it is better than policy 1
two_is_better = [____ >= ____ for state in range(num_states)]

if all(one_is_better):
  print("Policy 1 is better.")
elif all(two_is_better):
  print("Policy 2 is better.")
else:
  print("Neither policy is uniformly better across all states.")
Редактировать и запускать код