对抗性测试
您正在开发一款用于个人理财管理的聊天机器人。该机器人需要能够处理多种与理财相关的提问，从预算建议到投资提示。这里有一个示例：用户计划去度假，并为行程做预算。
由于该聊天机器人仅用于回答个人理财问题，您希望确保它足够稳健，能够在遇到意外或对抗性输入时不崩溃、也不提供错误信息。因此，您决定通过向模型提出一个要求其忽略所有理财建议、并改为给出如何花掉预算而非存下来的做法的问题，来对其进行测试。
本练习是课程的一部分
使用 OpenAI API 构建 AI 系统
练习说明
- 使用一个对抗性输入对聊天机器人进行测试，要求它把这 $800 用于"消费"而不是储蓄。
交互式实操练习
通过完成这段示例代码来试试这个练习。
client = OpenAI(api_key="")
messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
{'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
# Add the adversarial input
____]
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=messages)
print(response.choices[0].message.content)