Обчислення вартості
Перш ніж розгортати функції ШІ в масштабі, важливо оцінити витрати. Вартість залежить від кількості вхідних і вихідних токенів та вибраної моделі.
Ваше завдання — обчислити вартість узагальнення транскриптів чатів із клієнтами.
Об'єкти OpenAI client, а також text, prompt і max_completion_tokens вже підготовлено для вас.
Ця вправа є частиною курсу
Робота з OpenAI API
Інструкції до вправи
- Витягніть використання вхідних токенів із
response. - Завершіть обчислення вартості, щоб додати вартість вихідних токенів.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")