Cálculo del coste
Antes de implementar funciones de IA a gran escala, es fundamental estimar los costes. El coste depende del número de tokens de entrada y salida utilizados y del modelo elegido.
Tu tarea consiste en calcular el coste de resumir las transcripciones de los chats con los clientes.
El OpenAI client, junto con text, prompt y max_completion_tokens, están precargados para ti.
Este ejercicio forma parte del curso
Trabajar con la API de OpenAI
Instrucciones del ejercicio
- Extrae el uso del token de entrada de
response. - Completa el cálculo del coste para añadir el coste del token de salida.
Ejercicio interactivo práctico
Prueba este ejercicio completando el código de muestra.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")