Kueri ke Foundation Model
Mari gunakan apa yang telah kita pelajari tentang perbedaan antara Peran Pesan Obrolan "SYSTEM" dan "USER" untuk mengirim prompt yang berbeda kepada agen AI berdasarkan peran pesan obrolan.
Latihan ini merupakan bagian dari kursus
Databricks dengan Python SDK
Instruksi latihan
- Minta Agen AI untuk berperan sebagai guru ilmu komputer tingkat SMA saat menjawab kueri menggunakan prompt
ai_agent_context. - Tanyakan kepada agen AI kapan harus menggunakan perulangan For menggunakan
user_prompt.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
name="databricks-meta-llama-3-3-70b-instruct",
messages=[
ChatMessage(
# Set system prompt
role=ChatMessageRole.SYSTEM, content=____
),
ChatMessage(
# Set user query
role=ChatMessageRole.USER, content=____
),
],
max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")