轉移機率與報酬
Cliff Walking 環境共有 48 個狀態,依照從左上角(0)到右下角(47)的順序,逐行以 0 到 47 編號。你的目標是探究此設定中的轉移機率與報酬結構。特別要注意的是,在這個環境中,包含到達目標在內的所有報酬都是負的。這樣的設計強調要盡量減少步數,因為每走一步都會被扣分,所以效率成為設計有效學習演算法的關鍵。
已經將 gymnasium 函式庫匯入為 gym,環境為 env。此外,上一個練習中的 num_states 與 num_actions 也已匯入。

本練習屬於課程
使用 Python 的 Gymnasium 進行強化學習
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Choose the state
state = ____
# Extract transitions for each state-action pair
for action in range(num_actions):
transitions = ____
# Print details of each transition
for transition in transitions:
____, ____, ____, ____ = transition
print(f"Probability: {probability}, Next State: {next_state}, Reward: {reward}, Done: {done}")