查询基础模型
让我们运用关于 "SYSTEM" 与 "USER" 聊天消息角色差异的所学，根据不同的消息角色向 AI 代理发送不同的提示。
本练习是课程的一部分
使用 Python SDK 的 Databricks
练习说明
- 使用提示
ai_agent_context，告知 AI 代理在回答问题时扮演一位高中计算机科学老师。 - 使用
user_prompt向 AI 代理询问何时应使用 For 循环。
交互式实操练习
通过完成这段示例代码来试试这个练习。
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")