基盤モデルへのクエリ
「SYSTEM」と「USER」のチャットメッセージロールの違いを踏まえ、ロールに応じた異なるプロンプトをAIエージェントに送ってみましょう。
この演習はコースの一部です
Databricks と Python SDK
演習の手順
ai_agent_contextプロンプトを使って、高校のコンピュータサイエンスの教師として質問に答えるようAIエージェントに指示します。user_promptを使って、Forループをいつ使うべきかをAIエージェントに尋ねます。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")