Truy vấn một Foundation Model
Hãy áp dụng những gì bạn đã học về sự khác biệt giữa Chat Message Role "SYSTEM" và "USER" để gửi các lời nhắc khác nhau cho AI agent dựa trên vai trò của Chat Message.
Bài tập này là một phần của khóa học
Databricks với Python SDK
Hướng dẫn bài tập
- Yêu cầu AI Agent đóng vai một giáo viên tin học trung học khi trả lời truy vấn bằng lời nhắc
ai_agent_context. - Hỏi AI agent về thời điểm nên dùng vòng lặp For bằng
user_prompt.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")