1. 学ぶ
    2. /
  2. コース
    3. /
  3. OpenAI APIで学ぶマルチモーダルシステム
Connected

演習

モデルの応答をモデレーションする

チャットボットが個別に最適化された応答を生成していても、その内容が顧客に送信して安全かどうかを確認することが重要です。このステップでは、すべてのカテゴリスコアが顧客向けの安全基準を下回っているかを確認するために、応答をモデレーションします。

前の演習で得られたモデルの返信は chatbot_reply として利用できます。

指示

100 XP
  • 入力として chatbot_reply を使い、モデレーションリクエストを送信します。
  • 応答のカテゴリスコアを取り出し、.model_dump() で辞書に変換して、いずれかのスコアが 0.7 を「超えている」かを確認します。