파운데이션 모델 쿼리하기
"SYSTEM"과 "USER" 채팅 메시지 역할의 차이점을 바탕으로, 각 역할에 맞는 프롬프트를 AI 에이전트에 전송해 보겠습니다.
이 연습은 강의의 일부입니다
Python SDK로 Databricks 다루기
연습 안내
ai_agent_context프롬프트를 사용하여 AI 에이전트가 고등학교 컴퓨터 과학 교사처럼 질문에 답하도록 설정하세요.user_prompt를 사용하여 AI 에이전트에게 For 루프를 언제 사용하는지 질문하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")