Calcularea costului
Înainte de a implementa funcții AI la scară largă, este esențial să estimezi costurile. Costul depinde de numărul de tokeni de intrare și de ieșire folosiți și de modelul ales.
Sarcina ta este să calculezi costul rezumării transcripturilor din chat-ul cu clienții.
Clientul OpenAI client, împreună cu un prompt și max_tokens, sunt preîncărcate pentru tine.
Acest exercițiu face parte din cursul
Lucrul cu DeepSeek în Python
Instrucțiuni pentru exercițiu
- Extrage utilizarea tokenilor de intrare din
response. - Completează calculul costului prin adăugarea costului tokenilor de ieșire.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V4-Pro",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 2.1 / 1_000_000
output_token_price = 4.4 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")