モデルの応答をモデレーションする
チャットボットが個別に最適化された応答を生成していても、その内容が顧客に送信して安全かどうかを確認することが重要です。このステップでは、すべてのカテゴリスコアが顧客向けの安全基準を下回っているかを確認するために、応答をモデレーションします。
前の演習で得られたモデルの返信は chatbot_reply として利用できます。
この演習はコースの一部です
OpenAI APIで学ぶマルチモーダルシステム
演習の手順
- 入力として
chatbot_replyを使い、モデレーションリクエストを送信します。 - 応答のカテゴリスコアを取り出し、
.model_dump()で辞書に変換して、いずれかのスコアが0.7を「超えている」かを確認します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")