开始使用免费开始使用

转移概率与回报

Cliff Walking 环境共有 48 个状态,从 0 到 47,按行编号:从左上角的 0 到右下角的 47。您的目标是研究该设置中的转移概率回报的结构。需要注意的是,在这个环境中,所有回报(包括到达目标的回报)都是负数。这样的设计强调减少步数,因为每走一步都会受到惩罚,因此效率成为设计有效学习算法的关键。

已将 gymnasium 库导入为 gym,环境导入为 env。此外,还从上一个练习中导入了 num_statesnum_actions

Image showing the cliff walking environment.

本练习是课程的一部分

Python 中的 Gymnasium 强化学习

查看课程

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Choose the state
state = ____

# Extract transitions for each state-action pair
for action in range(num_actions):
    transitions = ____
    # Print details of each transition
    for transition in transitions:
        ____, ____, ____, ____ = transition
        print(f"Probability: {probability}, Next State: {next_state}, Reward: {reward}, Done: {done}")
编辑并运行代码