ćwiczenie

Ustawianie limitów tokenów

Platforma e-commerce zatrudniła cię, aby poprawić wydajność bota obsługi klienta zbudowanego przy użyciu API OpenAI. Postanawiasz zacząć od upewnienia się, że wiadomości wejściowe nie powodują problemów z limitami żądań – w tym celu ustawiasz limit 100 tokenów i testujesz go na przykładowej wiadomości.

Biblioteka tiktoken jest już załadowana.

Instrukcje

100 XP

Użyj biblioteki tiktoken, aby utworzyć kodowanie dla modelu gpt-4o-mini.
Sprawdź oczekiwaną liczbę tokenów w wiadomości wejściowej.
Wyświetl odpowiedź, jeśli wiadomość przejdzie obie weryfikacje.

.css-6su6fj{-webkit-flex-shrink:0;-ms-flex-negative:0;flex-shrink:0;}ćwiczenie

Instrukcje

ćwiczenie