Token-Grenzen festlegen
Eine E-Commerce-Plattform hat dich gerade beauftragt, die Leistung ihres Kundenservice-Bots zu verbessern, der mit der OpenAI API entwickelt wurde. Du möchtest zunächst sicherstellen, dass die Eingangsnachrichten keine Probleme mit dem Ratenlimit verursachen, indem du ein Limit von 100 Token festlegst und es mit einer Beispiel-Eingangsnachricht testest.
Die Bibliothek tiktoken
wurde vorgeladen.
Diese Übung ist Teil des Kurses
Entwicklung von KI-Systemen mit der OpenAI API
Anleitung zur Übung
- Verwende die Bibliothek
tiktoken
, um eine Kodierung für das Modellgpt-4o-mini
zu erstellen. - Überprüfe die erwartete Anzahl von Token in der Eingabemeldung.
- Drucke die Antwort, wenn die Nachricht beide Prüfungen besteht.
Interaktive Übung zum Anfassen
Probieren Sie diese Übung aus, indem Sie diesen Beispielcode ausführen.
client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}
# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____
# Run the chat completions function and print the response
if num_tokens <= ____:
response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
print(____)
else:
print("Message exceeds token limit")