ПочатиПочніть безкоштовно

Встановлення лімітів токенів

Платформа електронної комерції щойно найняла вас, щоб підвищити продуктивність їхнього бота підтримки клієнтів, створеного на базі OpenAI API. Ви вирішили почати з того, щоб вхідні повідомлення не спричиняли перевищення лімітів запитів: встановіть обмеження у 100 токенів і перевірте це на зразковому повідомленні.

Бібліотеку tiktoken уже завантажено.

Ця вправа є частиною курсу

Розроблення AI‑систем з OpenAI API

Переглянути курс

Інструкції до вправи

  • Використайте бібліотеку tiktoken, щоб створити кодування для моделі gpt-4o-mini.
  • Перевірте очікувану кількість токенів у вхідному повідомленні.
  • Виведіть відповідь, якщо повідомлення проходить обидві перевірки.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}

# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____

# Run the chat completions function and print the response
if num_tokens <= ____:
    response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
    print(____)
else:
    print("Message exceeds token limit")
Редагувати та запускати код