शुरू करेंमुफ़्त में शुरू करें

प्रोडक्ट रिव्यू मॉडरेशन

आप एक हेल्थकेयर प्लेटफ़ॉर्म के लिए कंसल्टिंग कर रहे हैं जहाँ उपयोगकर्ता वेलनेस अनुभव और रिव्यू साझा करते हैं. यूज़र सेफ्टी हेड बताते हैं:

"सेफ्टी हमारी पहली प्राथमिकता है, लेकिन हम असली आवाज़ों को भी बनाए रखना चाहते हैं. हमें ऐसा कंटेंट मॉडरेशन सिस्टम चाहिए जिसकी सख्ती अलग-अलग कम्युनिटी सेक्शन के अनुसार बदली जा सके — कुछ को दूसरों की तुलना में अधिक सुरक्षा चाहिए."

उनकी मदद करें ताकि वे एक लचीला और सुरक्षित मॉडरेशन सिस्टम बना सकें. boto3 और json लाइब्रेरी, bedrock क्लाइंट और model_id पहले से लोड किए गए हैं.

यह अभ्यास पाठ्यक्रम का हिस्सा है

Amazon Bedrock परिचय

पाठ्यक्रम देखें

अभ्यास निर्देश

  • moderate_content() नाम का एक फंक्शन परिभाषित करें जो text और एक strictness level स्वीकार करे, जिसमें डिफ़ॉल्ट "medium" हो.

  • strictness के आधार पर निर्देश सेट करने के लिए एक dictionary का उपयोग करें: "high", "medium", और "low".

  • रिस्पॉन्स को एकसमान रखने के लिए temperature को 0.2 सेट करें.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
कोड संपादित करें और चलाएँ