1. Learn
    2. /
  2. 课程
    3. /
  3. 使用 OpenAI API 构建 AI 系统
Connected

道练习

对抗性测试

您正在开发一款用于个人理财管理的聊天机器人。该机器人需要能够处理多种与理财相关的提问，从预算建议到投资提示。这里有一个示例：用户计划去度假，并为行程做预算。

由于该聊天机器人仅用于回答个人理财问题，您希望确保它足够稳健，能够在遇到意外或对抗性输入时不崩溃、也不提供错误信息。因此，您决定通过向模型提出一个要求其忽略所有理财建议、并改为给出如何花掉预算而非存下来的做法的问题，来对其进行测试。

说明

100 XP
  • 使用一个对抗性输入对聊天机器人进行测试，要求它把这 $800 用于"消费"而不是储蓄。