Tính toán chi phí
Trước khi triển khai tính năng AI ở quy mô lớn, việc ước tính chi phí là rất quan trọng. Chi phí phụ thuộc vào số token đầu vào và đầu ra được dùng và mẫu (model) được chọn.
Nhiệm vụ của bạn là tính chi phí cho việc tóm tắt các đoạn hội thoại từ khách hàng.
client của OpenAI, cùng với prompt và max_tokens, đã được tải sẵn cho bạn.
Bài tập này là một phần của khóa học
Làm việc với DeepSeek bằng Python
Hướng dẫn bài tập
- Trích xuất số token đầu vào từ
response. - Hoàn thiện phép tính chi phí để cộng thêm chi phí token đầu ra.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
client = OpenAI(api_key="", base_url="https://api.together.xyz/v1")
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3",
messages=[{"role": "user", "content": prompt}],
max_tokens=max_tokens
)
input_token_price = 1.25 / 1_000_000
output_token_price = 1.25 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")