Dotaz na foundation model
Využijeme to, co jsme se naučili o rozdílu mezi rolemi zpráv „SYSTEM" a „USER", a na základě těchto rolí pošleme AI agentovi různé prompty.
Toto cvičení je součástí kurzu
Databricks with the Python SDK
Pokyny k cvičení
- Pomocí promptu
ai_agent_contextřekni AI agentovi, aby při odpovídání na dotazy vystupoval jako učitel informatiky na střední škole. - Pomocí
user_promptse AI agenta zeptej, kdy se používají cyklyfor.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")