你正在開發一個線上銀行的客戶服務聊天機器人。團隊提醒你,惡意行為者可能會利用提示注入來從使用者那裡套取敏感資訊。你開發的聊天機器人應該只回答高層次的問題,不得涉及任何個人資訊的細節。
以下哪些作法可以降低惡意提示注入的風險?
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
學習如何將 OpenAI API 無縫整合進更複雜的系統,熟練調整回應格式,並妥善處理錯誤。本章提供關鍵知識,協助你打造不只具互動性,且同時穩健又高效的 AI 系統元件。
深入了解 function calling 的運作機制。你將學會定義參數以呼叫特定函式、擷取結構化資料,以及處理多個函式。同時學習無縫整合外部 API、調整回應以與其他系統溝通,強化 AI 系統的互動能力。
提升你使用 OpenAI API 的能力,對齊產業最佳實務。學會精準地進行內容審核、驗證模型行為的一致性,並導入安全措施以確保 API 使用更可靠。最終章是打造穩健 AI 應用程式不可或缺的一環。
當前練習