计算成本
在大规模上线 AI 功能之前,评估成本至关重要。成本取决于使用的输入与输出 token 数量以及所选模型。
您的任务是计算对客户聊天记录进行摘要的成本。
OpenAI 的 client,以及 text、prompt 和 max_completion_tokens 已为您预加载。
本练习是课程的一部分
使用 OpenAI API
练习说明
- 从
response中提取输入 token 用量。 - 完成成本计算,加入输出 token 成本。
交互式实操练习
通过完成这段示例代码来试试这个练习。
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")