ÎncepețiÎncepe gratuit

Setarea limitelor de tokeni

O platformă de e-commerce tocmai te-a angajat pentru a îmbunătăți performanța botului lor de serviciu clienți, construit cu ajutorul OpenAI API. Ai decis să începi prin a te asigura că mesajele de intrare nu provoacă probleme legate de limitele de rată, stabilind o limită de 100 de tokeni, și să testezi totul cu un mesaj de intrare exemplu.

Biblioteca tiktoken a fost preîncărcată.

Acest exercițiu face parte din cursul

Dezvoltarea sistemelor AI cu OpenAI API

Vezi cursul

Instrucțiuni pentru exercițiu

  • Folosește biblioteca tiktoken pentru a crea o codificare pentru modelul gpt-4o-mini.
  • Verifică numărul așteptat de tokeni din mesajul de intrare.
  • Afișează răspunsul dacă mesajul trece ambele verificări.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}

# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____

# Run the chat completions function and print the response
if num_tokens <= ____:
    response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
    print(____)
else:
    print("Message exceeds token limit")
Editează și rulează codul