Obliczanie kosztu
Przed wdrożeniem funkcji AI na dużą skalę warto oszacować koszty. Zależą one od liczby użytych tokenów wejściowych i wyjściowych oraz od wybranego modelu.
Twoim zadaniem jest obliczenie kosztu podsumowywania transkryptów rozmów z klientami.
Klient OpenAI (client) oraz zmienne prompt i max_tokens są już załadowane.
To ćwiczenie jest częścią kursu
Praca z DeepSeek w Pythonie
Instrukcje do ćwiczenia
- Wyodrębnij z obiektu
responseinformację o liczbie użytych tokenów wejściowych. - Uzupełnij obliczenie kosztu, dodając koszt tokenów wyjściowych.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V4-Pro",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 2.1 / 1_000_000
output_token_price = 4.4 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")