查詢基礎模型
讓我們運用剛學到的「SYSTEM」與「USER」聊天訊息角色之差異，依據不同的角色向 AI 代理發送不同的提示。
本練習屬於課程
使用 Python SDK 的 Databricks
練習說明
- 使用提示
ai_agent_context，告訴 AI 代理在回答查詢時要以高中電腦科學老師的方式來解答。 - 使用
user_prompt，請 AI 代理說明何時應該使用 For 迴圈。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")