始める無料で始める

プロンプトインジェクションの軽減

オンラインバンキング向けのカスタマーサービスチャットボットを開発しています。悪意のある攻撃者がプロンプトインジェクションを利用してユーザーの機密情報を引き出そうとする可能性があるという懸念がチームから伝えられました。このチャットボットは、高レベルな質問にのみ回答し、個人情報の詳細には立ち入らない設計にする必要があります。

悪意のある攻撃者によるプロンプトインジェクションのリスクを軽減する手法として、適切なものはどれですか?

この演習はコースの一部です

OpenAI API を使った AI システムの開発

コースを見る

実践的なインタラクティブ演習

理論を実践に変える、インタラクティブな演習のひとつをお試しください

演習を開始する