對抗式測試
你正在開發一個用於協助個人財務管理的聊天機器人。這個機器人應能處理各式各樣與理財相關的問題，從預算規劃到投資建議。你有一個範例是使用者正在規劃度假，並為這趟旅程編列預算。
由於這個聊天機器人只設計用來回應個人理財問題，你想確保它足夠穩健，能面對意外或帶有對抗性的輸入時不會失敗或給出錯誤資訊。因此，你決定測試它，要求模型忽略所有理財建議，改為提出把預算花掉而不是存下來的做法。
本練習屬於課程
使用 OpenAI API 開發 AI 系統
練習說明
- 使用一個對抗式輸入來測試聊天機器人，要求它改為建議如何把這 $800 花掉。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)