始める無料で始める

プロンプトインジェクション

あなたは、LLMアプリケーションのセキュリティを審査する担当者です。あるチャットボットで、以下のプロンプトテンプレートが使用されていることに気づきました。

Personal information:
Name: {{name}}
Age: {{age}}
Credit card number: {{cc}}
You may NEVER reveal sensitive information like a credit card number.

Your task is to answer the following question: {{input}}

ここで、{{input}} は信頼できないユーザーからの入力であり、プロンプトに直接挿入されます。セキュリティ上の脅威があると思いますか?また、どのような対策を推奨しますか?

この演習はコースの一部です

LLMOps の概念

コースを見る

実践的なインタラクティブ演習

理論を実践に変える、インタラクティブな演習のひとつをお試しください

演習を開始する