Aan de slagBegin gratis

Een Foundation Model bevragen

Laten we gebruiken wat we hebben geleerd over het verschil tussen "SYSTEM"- en "USER"-Chat Message Roles om verschillende prompts naar de AI-agent te sturen op basis van de Chat Message Role.

Deze oefening maakt deel uit van de cursus

Databricks met de Python SDK

Bekijk cursus

Oefeninstructies

  • Laat de AI-agent zich gedragen als een docent informatica op de middelbare school bij het beantwoorden van vragen met de prompt ai_agent_context.
  • Vraag de AI-agent wanneer je For-loops gebruikt met de user_prompt.

Interactieve oefening met praktijkervaring

Probeer deze oefening door deze voorbeeldcode aan te vullen.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Set system prompt
            role=ChatMessageRole.SYSTEM, content=____
        ),
        ChatMessage( 
          	# Set user query
            role=ChatMessageRole.USER, content=____
        ),
    ],
    max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Code bewerken en uitvoeren