Výpočet nákladů
Než nasadíš funkce AI ve větším měřítku, je důležité odhadnout náklady. Ty závisí na počtu vstupních a výstupních tokenů a na zvoleném modelu.
Tvým úkolem je vypočítat náklady na sumarizaci přepisů zákaznických chatů.
OpenAI client spolu s proměnnými text, prompt a max_completion_tokens jsou pro tebe předem načteny.
Toto cvičení je součástí kurzu
Práce s OpenAI API
Pokyny k cvičení
- Z objektu
responsezískej informaci o počtu použitých vstupních tokenů. - Dokonči výpočet nákladů tak, aby zahrnoval i cenu za výstupní tokeny.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")