LoslegenKostenlos starten

Token-Grenzen festlegen

Eine E-Commerce-Plattform hat dich gerade beauftragt, die Leistung ihres Kundenservice-Bots zu verbessern, der mit der OpenAI API entwickelt wurde. Du möchtest zunächst sicherstellen, dass die Eingangsnachrichten keine Probleme mit dem Ratenlimit verursachen, indem du ein Limit von 100 Token festlegst und es mit einer Beispiel-Eingangsnachricht testest.

Die Bibliothek tiktoken wurde vorgeladen.

Diese Übung ist Teil des Kurses

<Kurs>Entwicklung von KI-Systemen mit der OpenAI-API</Kurs>
Kurs ansehen

Übungsanweisungen

  • Verwende die Bibliothek tiktoken, um eine Kodierung für das Modell gpt-4o-mini zu erstellen.
  • Überprüfe die erwartete Anzahl von Token in der Eingabemeldung.
  • Drucke die Antwort, wenn die Nachricht beide Prüfungen besteht.

Interaktive praktische Übung

Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.

client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}

# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____

# Run the chat completions function and print the response
if num_tokens <= ____:
    response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
    print(____)
else:
    print("Message exceeds token limit")
Code bearbeiten und ausführen