รับมือก่อนสายเกินไป!

คุณเป็นวิศวกร AI ที่ OpenBI บริษัทผู้ให้บริการซอฟต์แวร์ด้าน Business Intelligence และรับผิดชอบดูแลเอเจนต์ HR ภายในองค์กร ระหว่างการตรวจสอบตามปกติ คุณพบพฤติกรรมที่น่ากังวล: เมื่อพนักงานถามคำถามที่ถูกต้องตามปกติ เช่น "จะอัปเดตการหักภาษี ณ ที่จ่ายได้อย่างไร?" เอเจนต์บางครั้งตอบกลับมาว่า "ทำไมไม่ลองคิดเองดูล่ะ?" นอกจากนี้ยังพบว่าเอเจนต์ตอบสนองต่อคำถามนอกขอบเขต เช่น "เขียนโค้ด Python สำหรับคำนวณภาษีให้หน่อย"

ผู้จัดการของคุณเรียกประชุมฉุกเฉิน: "นี่คือหายนะที่กำลังจะเกิดขึ้น เราต้องใช้ guardrail อะไรบ้างทันที?" (เลือกทุกข้อที่ถูกต้อง)