De kosten berekenen
Voordat je AI-functies op schaal uitrolt, is het belangrijk om de kosten te schatten. De kosten hangen af van het aantal gebruikte input- en outputtokens en het gekozen model.
Jouw taak is om de kosten te berekenen van het samenvatten van klantchats.
De OpenAI-client, samen met een prompt en max_tokens, zijn al voor je geladen.
Deze oefening maakt deel uit van de cursus
Werken met DeepSeek in Python
Oefeninstructies
- Haal het gebruik van invoertokens uit de
response. - Maak de kostencalculatie af door de kosten van de outputtokens toe te voegen.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 1.25 / 1_000_000
output_token_price = 1.25 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")