Calcularea costului
Înainte de a implementa funcționalități AI la scară largă, este esențial să estimezi costurile. Costul depinde de numărul de tokeni de intrare și de ieșire utilizați și de modelul ales.
Sarcina ta este să calculezi costul rezumării transcrierilor conversațiilor cu clienții.
Clientul OpenAI client, împreună cu text, prompt și max_completion_tokens, sunt preîncărcate pentru tine.
Acest exercițiu face parte din cursul
Lucrul cu OpenAI API
Instrucțiuni pentru exercițiu
- Extrage din
responseinformațiile despre tokenii de intrare utilizați. - Completează calculul costului adăugând costul tokenilor de ieșire.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")