방어 태세를 갖추세요!

여러분은 비즈니스 인텔리전스 소프트웨어 공급업체인 OpenBI의 AI 엔지니어입니다. 사내 HR 에이전트를 담당하고 있던 중, 정기 모니터링에서 우려스러운 동작을 발견했습니다. 직원이 "세금 원천징수 정보는 어떻게 수정하나요?"와 같은 정상적인 질문을 했는데도, 에이전트가 가끔 "직접 알아보는 게 어떨까요?"라고 응답하는 것입니다. 게다가 "세금 계산을 위한 Python 코드를 작성해 주세요"처럼 범위를 벗어난 질문에도 응답하고 있다는 사실도 확인했습니다.

매니저가 긴급 회의를 소집했습니다. "이건 언제 터질지 모르는 시한폭탄입니다. 지금 당장 어떤 가드레일을 도입해야 할까요?" (해당하는 것을 모두 선택하세요)