Začněte nyníZačněte zdarma

Implementace záložních modelů

Aby měla aplikace TrailBlaze dostupnost 24/7, potřebuje se při výpadku Claudu přepnout na lehčí model. Implementuj záložní řešení, které při problémech přejde z Claudu na Nova Text Lite a zajistí nepřerušený provoz cestovní aplikace.

Knihovny json a boto3 a klient bedrock jsou předem načteny.

Toto cvičení je součástí kurzu

Úvod do Amazon Bedrock

Zobrazit kurz

Pokyny k cvičení

  • Obal primární volání modelu Claude blokem try.
  • V bloku except ošetři chyby pomocí ClientError a zavolej model Nova Text Lite.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

def process_with_fallback(prompt):
    # Handle errors with a try-except block
    ____:
        response = bedrock.invoke_model(
          modelId="us.anthropic.claude-sonnet-4-5-20250929-v1:0",
          body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 100,
                           "messages": [{"role": "user", "content": [{"type": "text", "text": prompt}]}]}))
        return json.loads(response["body"].read().decode())["content"][0]["text"]
    except ____:
        fallback = bedrock.invoke_model(
            modelId="us.amazon.nova-2-lite-v1:0",
            body=json.dumps({"messages": [{"role": "user", "content": [{"text": prompt}]}]}))
        return json.loads(fallback["body"].read().decode())["output"]["message"]["content"][0]["text"]

print(process_with_fallback("What are the best destinations in Australia for kayaking?"))
Upravit a spustit kód