CommencerCommencez gratuitement

Interroger un Foundation Model

Utilisons ce que nous avons appris sur la différence entre les rôles de message de chat « SYSTEM » et « USER » pour envoyer des invites différentes à l'agent IA selon le rôle de message de chat.

Cet exercice fait partie du cours

<cours>Databricks avec le SDK Python</cours>
Voir le cours

Instructions de l’exercice

  • Demandez à l'agent IA d'adopter le rôle d'un professeur de sciences informatiques au lycée lorsqu'il répond aux requêtes en utilisant l'invite ai_agent_context.
  • Demandez à l'agent IA quand utiliser les boucles For en utilisant user_prompt.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Set system prompt
            role=ChatMessageRole.SYSTEM, content=____
        ),
        ChatMessage( 
          	# Set user query
            role=ChatMessageRole.USER, content=____
        ),
    ],
    max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Modifier et exécuter le code