Обчислення вартості
Перш ніж розгортати функції ШІ у великому масштабі, важливо оцінити витрати. Вартість залежить від кількості вхідних і вихідних токенів та обраної моделі.
Ваше завдання — обчислити вартість узагальнення стенограм чатів з клієнтами.
Об'єкт OpenAI client, а також prompt і max_tokens уже завантажені для вас.
Ця вправа є частиною курсу
Робота з DeepSeek у Python
Інструкції до вправи
- Витягніть використання вхідних токенів із
response. - Доповніть розрахунок вартості, щоб додати вартість вихідних токенів.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V4-Pro",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 2.1 / 1_000_000
output_token_price = 4.4 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")