Calculando o custo
Antes de implementar recursos de IA em grande escala, é essencial estimar os custos. O custo depende do número de tokens de entrada e saída usados e do modelo escolhido.
Sua tarefa é calcular o custo de resumir as transcrições dos chats com os clientes.
O OpenAI client, junto com text, prompt e max_completion_tokens, já vêm pré-carregados pra você.
Este exercício faz parte do curso
Trabalhar com a API da OpenAI
Instruções do exercício
- Pega o uso do token de entrada do
response. - Conclua o cálculo de custos para adicionar o custo do token de saída.
Exercício interativo prático
Experimente este exercício completando este código de exemplo.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")