Calcolo del costo
Prima di implementare le funzionalità di intelligenza artificiale su scala, è fondamentale stimare i costi. Il costo dipende dal numero di token di input e output utilizzati e dal modello scelto.
Il tuo compito è quello di calcolare il costo della sintesi delle trascrizioni delle chat dei clienti.
Il sito OpenAI client, insieme a text, prompt e max_completion_tokens, sono precaricati per te.
Questo esercizio fa parte del corso
Lavorare con l'API di OpenAI
Istruzioni dell'esercizio
- Estrai l'utilizzo dei token in ingresso da
response. - Completa il calcolo dei costi per aggiungere il costo del token di uscita.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")