Расчёт стоимости
Перед масштабным развёртыванием функций ИИ важно оценить затраты. Стоимость зависит от количества входных и выходных токенов, а также от выбранной модели.
Ваша задача — рассчитать стоимость суммаризации транскриптов чата с клиентами.
Клиент OpenAI client, а также text, prompt и max_completion_tokens уже загружены для вас.
Это упражнение является частью курса
Работа с OpenAI API
Инструкции к упражнению
- Извлеките данные об использовании входных токенов из объекта
response. - Завершите расчёт стоимости, добавив стоимость выходных токенов.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")