顧客通話のモデレーション
品質と安全性を確保するため、処理済みの顧客メッセージをモデレーションします。このステップでは、ハラスメントのような不適切な可能性のあるコンテンツを検出してフラグ付けします。
前の演習で作成した修正済みの文字起こしは corrected_text として利用できます。
この演習はコースの一部です
OpenAI APIで学ぶマルチモーダルシステム
演習の手順
- 入力に
corrected_textを使ってモデレーションリクエストを作成します。 - レスポンスのカテゴリスコアを抽出し、
.model_dump()を使って辞書に変換します。 scores辞書からハラスメントのスコアを取り出し、0.8よりも「大きい」かを確認します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
# Extract harassment score
harassment_score = ____
if ____:
print("Content flagged for harassment!")
else:
print("Content is safe from harassment.")