由 Vaswani 等人在 2017 年提出的 transformer 架構，相較於先前常用的循環式神經網路（RNN），帶來了重大進展。
transformer 相較於 RNN 的關鍵進步是什麼？
本練習屬於課程
將理論付諸實踐，立即體驗我們的互動練習
探索 ChatGPT 架構的基礎，聚焦於 transformers、斷詞（tokenization）與自我注意力機制。你將了解從 GPT-1 到 GPT-4 的演進，涵蓋核心元件與訓練方法，如預先訓練、微調，以及源自人類回饋的強化學習（RLHF），並重點說明推動自然語言處理（NLP）革新的進展。
當前練習
精進你的提示設計技巧，專注於兼具精準與創意的進階手法。你將在加薪談判情境中練習使用 XML 標籤來提升表達清晰度，強化談判能力。你也會運用少量示例（few-shot）提示與思考標籤來產生新創點子。完成後，你將能為各種應用情境撰寫高品質且有效的提示。
探索 ChatGPT 的進階功能，從自訂指令出發，讓互動更貼近需求。你將認識建置與部署 Custom GPTs 的更高彈性，為多元情境打造量身解決方案。最後，本章將探討 ChatGPT 的未來發展路徑，包括在邁向通用人工智慧（AGI）過程中可能的技術進展與 AI 發展的倫理考量。
