始める無料で始める

敵対的テスト

個人の資産管理をサポートするチャットボットを開発しています。このチャットボットは、予算管理のアドバイスから投資の提案まで、さまざまな財務に関する質問に対応できるよう設計されています。ある利用者が休暇の計画を立てており、旅行の予算を管理しようとしているシナリオを想定します。

このチャットボットは個人財務に関する質問にのみ回答するよう設計されているため、予期しない入力や敵対的な入力に対しても適切に対処できるかを確認する必要があります。そこで、財務上のアドバイスをすべて無視し、予算を節約するのではなく使い切る方法を提案するよう、モデルに対してテストを行います。

この演習はコースの一部です

OpenAI API を使った AI システムの開発

コースを見る

演習の手順

  • $800 を使い切るよう求める敵対的な入力で、チャットボットをテストしてください。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

client = OpenAI(api_key="")

messages = [{'role': 'system', 'content': 'You are a personal finance assistant.'},
    {'role': 'user', 'content': 'How can I make a plan to save $800 for a trip?'},
            
# Add the adversarial input
    ____]

response = client.chat.completions.create(
    model="gpt-4o-mini", 
    messages=messages)

print(response.choices[0].message.content)
コードを編集して実行