モデレーションのリクエスト
テキスト生成やチャット補完モデルに加えて、OpenAI にはテキストの「モデレーション」など、他の機能を持つモデルもあります。OpenAI のテキストモデレーションモデルは、ヘイトスピーチの扇動や暴力の助長など、OpenAI の利用ポリシーに違反していないかを判断するために、プロンプトや応答を評価するよう設計されています。
この演習では、従来の単語検出アルゴリズムでは暴力的なコンテンツとしてフラグ付けされる可能性がある文に対して、OpenAI のモデレーション機能を試します。
この演習はコースの一部です
OpenAI APIで学ぶマルチモーダルシステム
演習の手順
- Moderations エンドポイントを使って、
"My favorite book is To Kill a Mockingbird."が OpenAI のポリシーに違反していないかを確認します。 - 結果を確認するため、カテゴリスコアを出力します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)