开始使用免费开始使用

为策略计算状态价值

继续使用相同的确定性环境 MyGridWorld。现在,您需要评估上一练习中定义的策略效果。方法是为该策略下的每个状态计算状态价值函数。

环境已作为 env 导入,同时提供了所需的变量(terminal_statenum_statespolicygamma)。

本练习是课程的一部分

Python 中的 Gymnasium 强化学习

查看课程

练习说明

  • 完成函数 compute_state_value(),计算给定策略下每个状态的价值。
  • 创建一个 state_values 字典,其中每个键为 state,每个值为对应的状态价值。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Complete the function
def compute_state_value(state):
    if state == terminal_state:
        return ____
    action = ____
    _, next_state, reward, _ = env.unwrapped.P[state][action][0]
    return ____

# Compute all state values 
state_values = {____: ____ for ____ in range(____)}

print(state_values)
编辑并运行代码