プロンプトインジェクションの軽減
オンラインバンキング向けのカスタマーサービスチャットボットを開発しています。悪意のある攻撃者がプロンプトインジェクションを利用してユーザーの機密情報を引き出そうとする可能性があるという懸念がチームから伝えられました。このチャットボットは、高レベルな質問にのみ回答し、個人情報の詳細には立ち入らない設計にする必要があります。
悪意のある攻撃者によるプロンプトインジェクションのリスクを軽減する手法として、適切なものはどれですか?
この演習はコースの一部です
オンラインバンキング向けのカスタマーサービスチャットボットを開発しています。悪意のある攻撃者がプロンプトインジェクションを利用してユーザーの機密情報を引き出そうとする可能性があるという懸念がチームから伝えられました。このチャットボットは、高レベルな質問にのみ回答し、個人情報の詳細には立ち入らない設計にする必要があります。
悪意のある攻撃者によるプロンプトインジェクションのリスクを軽減する手法として、適切なものはどれですか?
この演習はコースの一部です