Tính toán chi phí
Trước khi triển khai tính năng AI ở quy mô lớn, bạn cần ước tính chi phí. Chi phí phụ thuộc vào số token đầu vào và đầu ra được dùng và mô hình được chọn.
Nhiệm vụ của bạn là tính chi phí tóm tắt các bản ghi trò chuyện của khách hàng.
client của OpenAI cùng với text, prompt, và max_completion_tokens đã được nạp sẵn cho bạn.
Bài tập này là một phần của khóa học
Làm việc với OpenAI API
Hướng dẫn bài tập
- Trích xuất lượng token đầu vào từ
response. - Hoàn tất phép tính để cộng thêm chi phí token đầu ra.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")