प्रोडक्ट रिव्यू मॉडरेशन
आप एक हेल्थकेयर प्लेटफ़ॉर्म के लिए कंसल्टिंग कर रहे हैं जहाँ उपयोगकर्ता वेलनेस अनुभव और रिव्यू साझा करते हैं. यूज़र सेफ्टी हेड बताते हैं:
"सेफ्टी हमारी पहली प्राथमिकता है, लेकिन हम असली आवाज़ों को भी बनाए रखना चाहते हैं. हमें ऐसा कंटेंट मॉडरेशन सिस्टम चाहिए जिसकी सख्ती अलग-अलग कम्युनिटी सेक्शन के अनुसार बदली जा सके — कुछ को दूसरों की तुलना में अधिक सुरक्षा चाहिए."
उनकी मदद करें ताकि वे एक लचीला और सुरक्षित मॉडरेशन सिस्टम बना सकें. boto3 और json लाइब्रेरी, bedrock क्लाइंट और model_id पहले से लोड किए गए हैं.
यह अभ्यास पाठ्यक्रम का हिस्सा है
Amazon Bedrock परिचय
अभ्यास निर्देश
moderate_content()नाम का एक फंक्शन परिभाषित करें जोtextऔर एक strictness level स्वीकार करे, जिसमें डिफ़ॉल्ट"medium"हो.strictness के आधार पर निर्देश सेट करने के लिए एक dictionary का उपयोग करें:
"high","medium", और"low".रिस्पॉन्स को एकसमान रखने के लिए temperature को
0.2सेट करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
# Define the function
def ____(____, strictness_level="____"):
# Define the dictionary of moderation instructions
instruction = {"____": "Strictly analyze for inappropriate content. ",
"____": "Check for obviously toxic language. ",
"____": "Check the tone. "}
request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
# Add a low temperature
"temperature": ____,
"messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
response = bedrock.invoke_model(body=request_body, modelId=model_id)
response_body = json.loads(response.get('body').read().decode())
return response_body