ComeçarComece gratuitamente

Definir limites de token

Uma plataforma de comércio eletrônico acaba de contratar você para melhorar o desempenho do bot de atendimento ao cliente criado usando a API da OpenAI. Você decidiu começar garantindo que as mensagens de entrada não causem nenhum problema de limite de taxa, definindo um limite de 100 tokens e testando-o com uma mensagem de entrada de amostra.

A biblioteca tiktoken foi pré-carregada.

Este exercício faz parte do curso

Desenvolvimento de sistemas de IA com a API da OpenAI

Ver Curso

Instruções de exercício

  • Use a biblioteca tiktoken para criar uma codificação para o modelo gpt-4o-mini.
  • Verifique o número esperado de tokens na mensagem de entrada.
  • Imprima a resposta se a mensagem passar em ambas as verificações.

Exercício interativo prático

Experimente este exercício preenchendo este código de exemplo.

client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}

# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____

# Run the chat completions function and print the response
if num_tokens <= ____:
    response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
    print(____)
else:
    print("Message exceeds token limit")
Editar e executar código