Mulai sekarangMulai gratis

Kueri chatbot menggunakan Databricks Servings Endpoint API

Pada latihan sebelumnya, Anda mempelajari cara menggunakan Databricks SDK untuk mengkueri model AI Foundation. Tujuan latihan ini adalah agar Anda bereksperimen dengan berbagai prompt pengguna dan sistem saat mengajukan kueri ke model AI menggunakan Databricks SDK

Latihan ini merupakan bagian dari kursus

Databricks dengan Python SDK

Lihat Kursus

Instruksi latihan

  • Ubah prompt Sistem dan lihat bagaimana respons model AI menjadi berbeda.
  • Ubah prompt Pengguna dan lihat bagaimana respons model AI menjadi berbeda.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Edit the System prompt
            role=ChatMessageRole.SYSTEM, content=""
        ),
        ChatMessage( 
          	# Edit the User prompt
            role=ChatMessageRole.USER, content="" 
        ),
    ],
    max_tokens=128)
print(f"RESPONSE:\n{response.choices[0].message.content}")
Edit dan Jalankan Kode