Aan de slagBegin gratis

Chatbot bevragen met de Databricks Servings Endpoint API

In de vorige oefening leerde je hoe je met de Databricks SDK een AI Foundation‑model kunt bevragen. In deze oefening ga je experimenteren met verschillende user- en systemprompts bij het bevragen van AI‑modellen met de Databricks SDK.

Deze oefening maakt deel uit van de cursus

Databricks met de Python SDK

Bekijk cursus

Oefeninstructies

  • Bewerk de System-prompt en kijk hoe het AI‑model anders reageert.
  • Bewerk de User-prompt en kijk hoe het AI‑model anders reageert.

Interactieve oefening met praktijkervaring

Probeer deze oefening door deze voorbeeldcode aan te vullen.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Edit the System prompt
            role=ChatMessageRole.SYSTEM, content=""
        ),
        ChatMessage( 
          	# Edit the User prompt
            role=ChatMessageRole.USER, content="" 
        ),
    ],
    max_tokens=128)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Code bewerken en uitvoeren