開始使用免費開始

轉移機率與報酬

Cliff Walking 環境共有 48 個狀態,依照從左上角(0)到右下角(47)的順序,逐行以 0 到 47 編號。你的目標是探究此設定中的轉移機率報酬結構。特別要注意的是,在這個環境中,包含到達目標在內的所有報酬都是負的。這樣的設計強調要盡量減少步數,因為每走一步都會被扣分,所以效率成為設計有效學習演算法的關鍵。

已經將 gymnasium 函式庫匯入為 gym,環境為 env。此外,上一個練習中的 num_statesnum_actions 也已匯入。

Image showing the cliff walking environment.

本練習屬於課程

使用 Python 的 Gymnasium 進行強化學習

檢視課程

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Choose the state
state = ____

# Extract transitions for each state-action pair
for action in range(num_actions):
    transitions = ____
    # Print details of each transition
    for transition in transitions:
        ____, ____, ____, ____ = transition
        print(f"Probability: {probability}, Next State: {next_state}, Reward: {reward}, Done: {done}")
編輯並執行程式碼