MulaiMulai sekarang secara gratis

Controlling output with top_p and max_tokens

Tim pemasaran kini menginginkan dua versi cerita tentang ChefBot, robot memasak andalan: ringkasan singkat untuk investor dan artikel blog “di balik layar” yang lebih kreatif.

Dalam latihan ini, pustaka boto3 dan json, serta klien bedrock, telah diimpor sebelumnya.

Latihan ini adalah bagian dari kursus

Pengantar Amazon Bedrock

Lihat Kursus

Petunjuk latihan

  • Hasilkan cerita ringkas menggunakan top_p rendah dan max_tokens rendah, serta cerita yang lebih kreatif menggunakan top_p tinggi dan max_tokens tinggi, dengan tetap membatasi max_tokens maksimum 200.

Latihan interaktif praktis

Cobalah latihan ini dengan menyelesaikan kode contoh berikut.

def generate_story_with_params(bedrock, top_p, max_tokens):
    messages = [{"role": "user",
             "content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
    request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
                 "top_p": top_p, "messages": messages})
    response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
    response_body = json.loads(response.get('body').read().decode())
    return response_body["content"][0]["text"]
    
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)

print("More focused: ", short_focused, "More creative: ", long_diverse)
Edit dan Jalankan Kode