コストの計算
AI機能を大規模に展開する前に、コストを見積もることが重要です。コストは使用する入力・出力トークン数と選択するモデルによって異なります。
ここでは、顧客とのチャット履歴を要約する際のコストを計算しましょう。
OpenAIのclient、およびtext、prompt、max_completion_tokensはあらかじめ読み込まれています。
この演習はコースの一部です
OpenAI APIを使いこなす
演習の手順
responseから入力トークンの使用量を取り出してください。- 出力トークンのコストを加算して、合計額を出してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
client = OpenAI(api_key="")
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
max_completion_tokens=max_completion_tokens
)
input_token_price = 0.15 / 1_000_000
output_token_price = 0.6 / 1_000_000
# Extract token usage
input_tokens = response.____.____
output_tokens = max_completion_tokens
# Calculate cost
cost = (input_tokens * input_token_price + ____ * ____)
print(f"Estimated cost: ${cost}")