計算成本
在大規模部署 AI 功能之前,先估算成本是關鍵一步。成本取決於使用的「輸入與輸出權杖」數量,以及「所選模型」。
你的任務是「計算」彙整客服聊天逐字稿的成本。
OpenAI 的 client,以及 text、prompt、max_completion_tokens 都已為你預先載入。
本練習屬於課程
Working with the OpenAI API
練習說明
- 從
response擷取輸入權杖的用量。 - 完成成本計算,將輸出權杖的成本加上去。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")