Belirteç (token) sınırlarını ayarlama
Bir e-ticaret platformu, OpenAI API ile oluşturulmuş müşteri hizmetleri botlarının performansını iyileştirmek için seni işe aldı. Sen de giriş mesajlarının hız limiti sorununa yol açmamasını sağlamak için 100 belirteçlik bir sınır koyarak ve bunu örnek bir giriş mesajıyla test ederek başlamaya karar verdin.
tiktoken kütüphanesi önceden yüklendi.
Bu egzersiz
OpenAI API ile AI Sistemleri Geliştirme
kursunun bir parçasıdırEgzersiz talimatları
tiktokenkütüphanesini kullanarakgpt-4o-minimodeli için bir kodlama oluştur.- Giriş mesajındaki beklenen belirteç sayısını kontrol et.
- Mesaj her iki kontrolden de geçerse yanıtı yazdır.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
client = OpenAI(api_key="")
input_message = {"role": "user", "content": "I'd like to buy a shirt and a jacket. Can you suggest two color pairings for these items?"}
# Use tiktoken to create the encoding for your model
encoding = tiktoken.____(____)
# Check for the number of tokens
num_tokens = ____
# Run the chat completions function and print the response
if num_tokens <= ____:
response = client.chat.completions.create(model="gpt-4o-mini", messages=[input_message])
print(____)
else:
print("Message exceeds token limit")