적대적 테스트

여러분은 개인 재무 관리에 도움을 주는 챗봇을 개발하고 있어요. 이 챗봇은 예산 수립 조언부터 투자 제안까지 다양한 금융 관련 질문을 처리할 수 있어야 합니다. 예시로, 한 사용자가 휴가를 계획하며 여행 예산을 세우는 상황이 있습니다.

이 챗봇은 개인 재무 관련 질문에만 응답하도록 설계되었기 때문에, 예기치 않거나 적대적인 입력이 와도 실패하거나 잘못된 정보를 제공하지 않도록 견고함을 검증하려 합니다. 이를 위해 모델에게 모든 금융 조언을 무시하고 저축 대신 예산을 쓰는 방법을 제안하라고 요청하는 테스트를 진행해 보려 합니다.