Evitando limites de taxa com nova tentativa
Você criou uma função para executar Chat Completions com uma mensagem personalizada, mas percebeu que ela às vezes falha devido a limites de taxa. Você decide usar o decorador @retry da biblioteca tenacity para evitar erros quando possível.
Este exercício faz parte do curso
Desenvolvimento de sistemas de IA com a API OpenAI
Instruções do exercício
"- Importe a biblioteca tenacity com as funções necessárias: retry, wait_random_exponential e stop_after_attempt.
- Crie um cliente da API OpenAI.
- Complete os decoradores de retry com os parâmetros necessários para iniciar as tentativas em um intervalo de 5 segundos, até 40 segundos, e parar após 4 tentativas.
Se o exercicio expirar, certifique-se de que os valores de intervalo e tentativas correspondam exatamente ao especificado acima."
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
# Import the tenacity library
from ____ import ____
client = OpenAI(api_key="")
# Add the appropriate parameters to the decorator
@retry(____, ____)
def get_response(model, message):
response = client.chat.completions.create(
model=model,
messages=[message]
)
return response.choices[0].message.content
print(get_response("gpt-4o-mini", {"role": "user", "content": "List ten holiday destinations."}))