Ein Foundation Model abfragen
Nutzen wir, was wir über den Unterschied zwischen den Chat-Nachrichtenrollen "SYSTEM" und "USER" gelernt haben, um dem AI-Agent je nach Nachrichtenrolle unterschiedliche Prompts zu schicken.
Diese Übung ist Teil des Kurses
<Kurs>Databricks mit dem Python-SDK</Kurs>Übungsanweisungen
- Weise den AI-Agent mit dem Prompt
ai_agent_contextan, bei Antworten auf Anfragen wie eine Informatiklehrkraft an der Oberstufe aufzutreten. - Frage den AI-Agent mit dem
user_prompt, wann For-Schleifen verwendet werden sollten.
Interaktive praktische Übung
Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")