Calcul du coût
Avant de déployer des fonctionnalités d'IA à grande échelle, il est essentiel d'estimer les coûts. Le coût dépend du nombre de jetons en entrée et en sortie utilisés et du modèle choisi.
Votre tâche est de calculer le coût du résumé des transcriptions de clavardage des clients.
Le client d'OpenAI, ainsi que text, prompt et max_completion_tokens, sont déjà chargés pour vous.
Cette activité fait partie du cours
Travailler avec l'API d'OpenAI
Instructions de l’exercice
- Extraire l'utilisation des jetons en entrée à partir de
response. - Compléter le calcul du coût pour ajouter le coût des jetons en sortie.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")