プロンプトインジェクションの緩和
あなたはオンラインバンキング向けのカスタマーサービス用チャットボットを開発しています。チームからは、悪意ある利用者がプロンプトインジェクションを使ってユーザーから機密情報を引き出す可能性が懸念点として挙がっています。開発中のチャットボットは、高レベルな質問にのみ回答し、個人情報に関する詳細には踏み込まないようにする必要があります。
次のうち、悪意ある利用者によるプロンプトインジェクションのリスクを緩和する手法はどれですか?
この演習はコースの一部です
あなたはオンラインバンキング向けのカスタマーサービス用チャットボットを開発しています。チームからは、悪意ある利用者がプロンプトインジェクションを使ってユーザーから機密情報を引き出す可能性が懸念点として挙がっています。開発中のチャットボットは、高レベルな質問にのみ回答し、個人情報に関する詳細には踏み込まないようにする必要があります。
次のうち、悪意ある利用者によるプロンプトインジェクションのリスクを緩和する手法はどれですか?
この演習はコースの一部です