LoslegenKostenlos starten

Chatbot über die Databricks Servings Endpoint API abfragen

In der vorherigen Übung hast du gelernt, wie du mit dem Databricks SDK ein AI-Foundation-Modell abfragst. In dieser Übung sollst du mit verschiedenen System- und User-Prompts experimentieren, wenn du AI-Modelle mit dem Databricks SDK abfragst.

Diese Übung ist Teil des Kurses

<Kurs>Databricks mit dem Python-SDK</Kurs>
Kurs ansehen

Übungsanweisungen

  • Bearbeite den System-Prompt und beobachte, wie sich die Antwort des AI-Modells verändert.
  • Bearbeite den User-Prompt und beobachte, wie sich die Antwort des AI-Modells verändert.

Interaktive praktische Übung

Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Edit the System prompt
            role=ChatMessageRole.SYSTEM, content=""
        ),
        ChatMessage( 
          	# Edit the User prompt
            role=ChatMessageRole.USER, content="" 
        ),
    ],
    max_tokens=128)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Code bearbeiten und ausführen