ПочатиПочніть безкоштовно

Надішліть запит до чату через Databricks Servings Endpoint API

У попередній вправі ви дізналися, як використовувати Databricks SDK, щоб надсилати запити до базової моделі ШІ (AI Foundation model). Мета цієї вправи — щоб ви поекспериментували з різними системними та користувацькими підказками під час запитів до моделей ШІ за допомогою Databricks SDK.

Ця вправа є частиною курсу

Databricks із Python SDK

Переглянути курс

Інструкції до вправи

  • Відредагуйте системну підказку й подивіться, як по-іншому відповідає модель ШІ.
  • Відредагуйте користувацьку підказку й подивіться, як по-іншому відповідає модель ШІ.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Edit the System prompt
            role=ChatMessageRole.SYSTEM, content=""
        ),
        ChatMessage( 
          	# Edit the User prompt
            role=ChatMessageRole.USER, content="" 
        ),
    ],
    max_tokens=128)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Редагувати та запускати код