การลดความเสี่ยงจาก Prompt Injection
คุณกำลังพัฒนาแชทบอตสำหรับบริการลูกค้าด้านธนาคารออนไลน์ และทีมงานได้แจ้งว่าหนึ่งในความกังวลหลักคือผู้ไม่หวังดีอาจใช้ prompt injection เพื่อดึงข้อมูลสำคัญของผู้ใช้ แชทบอตที่พัฒนานี้ควรตอบเฉพาะคำถามในระดับภาพรวม และไม่เปิดเผยข้อมูลส่วนตัวใด ๆ
ข้อใดต่อไปนี้เป็นเทคนิคที่ช่วยลดความเสี่ยงจาก prompt injection ของผู้ไม่หวังดี?
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
การพัฒนาระบบ AI ด้วย OpenAI API
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำจริง
เปลี่ยนทฤษฎีให้เป็นการลงมือทำด้วยแบบฝึกหัดเชิงโต้ตอบหนึ่งในของเรา
เริ่มแบบฝึกหัด