Moderasi ulasan produk
Anda menjadi konsultan untuk sebuah platform kesehatan yang memungkinkan pengguna berbagi pengalaman kebugaran dan ulasan. Kepala Keamanan Pengguna menjelaskan:
"Keselamatan adalah prioritas utama kami, namun kami juga ingin menjaga keaslian suara pengguna. Kami memerlukan sistem moderasi konten yang dapat menyesuaikan tingkat ketegasannya berdasarkan bagian komunitas yang berbeda — beberapa memerlukan perlindungan lebih tinggi daripada yang lain."
Bantu mereka membangun sistem moderasi yang fleksibel dan aman. Pustaka boto3 dan json, klien bedrock, serta model_id telah dimuat sebelumnya.
Latihan ini adalah bagian dari kursus
Pengantar Amazon Bedrock
Petunjuk latihan
Definisikan fungsi
moderate_content()yang menerimatextdan tingkat ketegasan dengan"medium"sebagai nilai bawaan.Gunakan dictionary untuk menetapkan instruksi berdasarkan tingkat ketegasan:
"high","medium", dan"low".Tambahkan temperature sebesar
0.2agar respons tetap konsisten.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Define the function
def ____(____, strictness_level="____"):
# Define the dictionary of moderation instructions
instruction = {"____": "Strictly analyze for inappropriate content. ",
"____": "Check for obviously toxic language. ",
"____": "Check the tone. "}
request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
# Add a low temperature
"temperature": ____,
"messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
response = bedrock.invoke_model(body=request_body, modelId=model_id)
response_body = json.loads(response.get('body').read().decode())
return response_body