Consultar um Foundation Model
Vamos usar o que aprendemos sobre a diferença entre as funções de mensagem de chat "SYSTEM" e "USER" para enviar prompts diferentes ao agente de IA com base na função da mensagem de chat.
Este exercicio faz parte do curso
Databricks com o SDK em Python
Instruções do exercicio
- Diga ao agente de IA para agir como um professor de ciência da computação do ensino médio ao responder consultas usando o prompt
ai_agent_context. - Pergunte ao agente de IA quando usar loops For usando o
user_prompt.
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")