เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

Query a Foundation Model

มาลองนำความรู้เรื่องความแตกต่างระหว่าง Chat Message Role แบบ "SYSTEM" และ "USER" ไปใช้จริง โดยส่ง prompt ที่แตกต่างกันไปยัง AI agent ตาม Chat Message Role ที่กำหนด

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

Databricks กับ Python SDK

ดูคอร์ส

คำแนะนำการฝึกหัด

  • กำหนดให้ AI agent ทำหน้าที่เป็นครูสอนวิชาคอมพิวเตอร์ระดับมัธยมปลายเมื่อตอบคำถาม โดยใช้ prompt ชื่อ ai_agent_context
  • ถาม AI agent ว่าควรใช้ For loop ในกรณีใดบ้าง โดยใช้ user_prompt

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

from databricks.sdk import WorkspaceClient
from databricks.sdk.service.serving import ChatMessage, ChatMessageRole
w = WorkspaceClient()
user_prompt = "What is a For loop and When should I use it?"
ai_agent_context = "You are a high school computer science teacher"
response = w.serving_endpoints.query(
    name="databricks-meta-llama-3-3-70b-instruct",
    messages=[
        ChatMessage( 
          	# Set system prompt
            role=ChatMessageRole.SYSTEM, content=____
        ),
        ChatMessage( 
          	# Set user query
            role=ChatMessageRole.USER, content=____
        ),
    ],
    max_tokens=250)
print(f"RESPONSE:\n{response.choices[0].message.content}")
แก้ไขและรันโค้ด