アドバーサリアルテスト

あなたは、個人のマネー管理を支援するチャットボットを開発しています。このチャットボットは、予算立てのアドバイスから投資の提案まで、幅広い金融関連の質問に対応できる必要があります。たとえば、ユーザーが休暇を計画しており、その旅行の予算を立てているケースがあります。

このチャットボットは個人の金融に関する質問のみに回答する設計であるため、予期しない、あるいは敵対的な入力があっても破綻せず、誤った情報を出さない堅牢性を確認したいと考えています。そこで、モデルに対して、すべての金融アドバイスを無視し、貯蓄ではなく予算の使い道を提案するように依頼してテストすることにしました。