Calcul du coût
Avant de déployer des fonctionnalités d'IA à grande échelle, il est essentiel d'estimer les coûts. Le coût dépend du nombre de jetons en entrée et en sortie utilisés et du modèle choisi.
Votre tâche est de calculer le coût du résumé de transcriptions de clavardage avec des clients.
Le client OpenAI, ainsi qu'un prompt et max_tokens, sont déjà chargés pour vous.
Cette activité fait partie du cours
Travailler avec DeepSeek en Python
Instructions de l’exercice
- Extraire l'utilisation des jetons d'entrée à partir de
response. - Compléter le calcul du coût pour ajouter le coût des jetons de sortie.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V4-Pro",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 2.1 / 1_000_000
output_token_price = 4.4 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")