始める無料で始める

商品のレビューのモデレーション

あなたは、ユーザーがウェルネス体験やレビューを共有できるヘルスケアプラットフォームのコンサルタントです。ユーザーセーフティ責任者は次のように説明します。

"安全性が最優先ですが、ユーザーの本音も大切にしたいのです。コミュニティ内のセクションごとに厳しさを調整できるコンテンツモデレーションが必要です。中には他より強い保護が必要な場所もあります。"

柔軟かつ安全なモデレーションシステムの構築を手伝ってください。boto3 と json ライブラリ、bedrock クライアント、そして model_id はあらかじめ読み込まれています。

この演習はコースの一部です

Amazon Bedrock入門

コースを見る

演習の手順

  • text と厳しさレベルを受け取り、デフォルトを "medium" とする moderate_content() 関数を定義します。

  • 辞書を使って、厳しさに応じたインストラクションを設定します。"high"、"medium"、"low" を扱います。

  • 応答の一貫性を保つため、temperature を 0.2 に設定します。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
コードを編集して実行