始める無料で始める

プロンプトインジェクションの緩和

あなたはオンラインバンキング向けのカスタマーサービス用チャットボットを開発しています。チームからは、悪意ある利用者がプロンプトインジェクションを使ってユーザーから機密情報を引き出す可能性が懸念点として挙がっています。開発中のチャットボットは、高レベルな質問にのみ回答し、個人情報に関する詳細には踏み込まないようにする必要があります。

次のうち、悪意ある利用者によるプロンプトインジェクションのリスクを緩和する手法はどれですか?

この演習はコースの一部です

OpenAI API で開発する AI システム

コースを見る

実践的なインタラクティブ演習

理論を実践に変える、インタラクティブな演習のひとつをお試しください

演習を開始する