Calcolare il costo
Prima di distribuire funzionalità di AI su larga scala, è fondamentale stimare i costi. Il costo dipende dal numero di token in input e in output utilizzati e dal modello scelto.
Il tuo compito è calcolare il costo del riassunto delle trascrizioni di chat con i clienti.
L'oggetto client di OpenAI, insieme a un prompt e a max_tokens, è già caricato per te.
Questo esercizio fa parte del corso
Lavorare con DeepSeek in Python
Istruzioni dell'esercizio
- Estrai l'utilizzo dei token in input da
response. - Completa il calcolo del costo aggiungendo il costo dei token in output.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 1.25 / 1_000_000
output_token_price = 1.25 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")