Запрос к базовой модели

Применим на практике знания о различии между ролями сообщений «SYSTEM» и «USER», чтобы отправлять ИИ-агенту разные запросы в зависимости от роли.

Это упражнение является частью курса

Databricks с Python SDK

Посмотреть курс

Инструкции к упражнению

С помощью переменной ai_agent_context укажите ИИ-агенту вести себя как учитель информатики в старшей школе при ответе на вопросы.
С помощью переменной user_prompt спросите ИИ-агента, когда следует использовать циклы For.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Set system prompt
            role=ChatMessageRole.SYSTEM, content=____
        ),
        ChatMessage( 
          	# Set user query
            role=ChatMessageRole.USER, content=____
        ),
    ],
    max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")

Редактировать и запускать код