ComenzarEmpieza gratis

Establecer límites de token

Una plataforma de comercio electrónico acaba de contratarte para mejorar el rendimiento de su bot de atención al cliente, creado utilizando la API de OpenAI. Has decidido empezar por asegurarte de que los mensajes de entrada no causen ningún problema de limitación de velocidad estableciendo un límite de 100 tokens y probarlo con un ejemplo de mensaje de entrada.

Se ha precargado la biblioteca tiktoken.

Este ejercicio forma parte del curso

Desarrollar sistemas de IA con la API de OpenAI

Ver curso

Instrucciones de ejercicio

  • Utiliza la biblioteca tiktoken para crear una codificación para el modelo gpt-4o-mini.
  • Comprueba el número esperado de tokens en el mensaje de entrada.
  • Imprime la respuesta si el mensaje supera ambas comprobaciones.

Ejercicio interactivo práctico

Pruebe este ejercicio completando este código de muestra.

client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}

# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____

# Run the chat completions function and print the response
if num_tokens <= ____:
    response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
    print(____)
else:
    print("Message exceeds token limit")
Editar y ejecutar código