Processando respostas do modelo e tratamento de erros

O SkyCast Assistant também envia alertas meteorológicos personalizados. Como parte dessa iniciativa, pediram para gerar uma resposta para um usuário que quer alterar a frequência da newsletter. Use o Claude para gerar a resposta e depois faça o parsing para que a mensagem final caiba na visualização compacta de notificações do app.

As bibliotecas json, o cliente bedrock e o request_body já foram importados.

Este exercício faz parte do curso

Introdução ao Amazon Bedrock

Instruções do exercício

Verifique se a chave 'output' existe no dicionário data.
Extraia 'text' do conteúdo na saída da mensagem.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0', body=request_body)
data = json.loads(response['body'].read().decode())

# Check for the output key
if '____' in ____:
    response = data['output']['message']['content'][0]['____'][:100]
    print(response)
else:
    print('Key not found')

Editar e executar o código

Este exercício faz parte do curso

Introdução ao Amazon Bedrock

IntermediárioNível de habilidade

4.8+

Iniciar curso de graça

Aprenda os fundamentos do Amazon Bedrock, o serviço totalmente gerenciado de modelos de base da AWS. Comece com configuração e autenticação básicas, explore os modelos de base disponíveis como Claude e Titan e domine interações essenciais com a API. Este capítulo aborda a configuração do ambiente de desenvolvimento, a escolha de modelos apropriados para um caso de uso e a implementação do tratamento adequado de requisições à API, incluindo respostas em streaming e gerenciamento de erros.

Exercise 1: Acessando o Amazon Bedrock Exercise 2: Inicializando o cliente do Bedrock Exercise 3: Recuperando detalhes de modelos do Bedrock Exercise 4: Selecionando um modelo base Exercise 5: Usando o modelo correto no Bedrock Exercise 6: Gerando texto no Bedrock

Neste capítulo, você avançará por três lições-chave. Começando com o básico de geração de texto e tratamento de respostas, você seguirá para técnicas sofisticadas de prompt engineering, como few-shot learning e saídas estruturadas. A lição final aborda a otimização de parâmetros do modelo, ensinando você a ajustar configurações como temperatura e limites de tokens para obter resultados ideais. Cada lição se baseia na anterior, evoluindo de interações fundamentais com a API para o controle avançado de parâmetros em casos de uso específicos.

Exercise 1: Gerando texto com modelos de linguagem Exercise 2: Aprimorando prompts com atribuição de papel Exercise 3: Processando respostas do modelo e tratamento de erros

Exercício atual

Exercise 4: Categorização de relatório por foundation model Exercise 5: Aplicando técnicas de prompt engineering Exercise 6: Implemente few-shot learning para geometria Exercise 7: Criando prompts com saída estruturada Exercise 8: Trabalhando com diferentes parâmetros de modelo Exercise 9: Ajustando a criatividade com o controle de temperatura Exercise 10: Controlando a saída com top_p e max_tokens Exercise 11: Parâmetros para descrições de produto

Neste capítulo, você vai criar aplicações robustas e responsáveis com o Amazon Bedrock, indo além das interações básicas com a API. Começando com IA conversacional, você vai dominar o gerenciamento de estado e o uso de contexto para criar experiências de chat coerentes. Em seguida, vai explorar técnicas avançadas de prompting, aprendendo a gerar diferentes tipos de conteúdo mantendo estilo e tom consistentes. O capítulo aborda aspectos críticos de produção, como tratamento de erros, limitação de taxa e processamento eficiente de respostas. Por fim, você implementará guardrails éticos e medidas de segurança, garantindo que suas aplicações de IA sejam poderosas e responsáveis.

Exercise 1: Considerações éticas e guardrails Exercise 2: Moderação de avaliações de produto Exercise 3: Criando filtros de conteúdo apropriados à idade Exercise 4: Gerenciando conversas com IA Exercise 5: Criando uma classe gerenciadora de conversas Exercise 6: Tornando a conversa consciente de memória Exercise 7: Estratégias avançadas de prompting Exercise 8: Implementando prompting com cadeia de pensamento Exercise 9: Geração de conteúdo com estilo no Bedrock Exercise 10: Tratando respostas e erros da API Exercise 11: Implementando tratamento de limite de taxa Exercise 12: Implementando fallbacks de modelo Exercise 13: Parabéns!