프롬프트 인젝션 완화하기
온라인 뱅킹용 고객 지원 챗봇을 개발하고 있는데, 팀에서 악의적인 사용자가 프롬프트 인젝션을 이용해 민감한 정보를 사용자로부터 끌어낼 수 있다는 우려가 제기되었어요. 여러분이 개발하는 챗봇은 상위 수준의 질문에만 답하고, 개인 정보와 관련한 세부 사항에는 들어가지 않아야 합니다.
다음 중 악의적인 사용자의 프롬프트 인젝션 위험을 완화하는 기법은 무엇인가요?
이 연습은 강의의 일부입니다
온라인 뱅킹용 고객 지원 챗봇을 개발하고 있는데, 팀에서 악의적인 사용자가 프롬프트 인젝션을 이용해 민감한 정보를 사용자로부터 끌어낼 수 있다는 우려가 제기되었어요. 여러분이 개발하는 챗봇은 상위 수준의 질문에만 답하고, 개인 정보와 관련한 세부 사항에는 들어가지 않아야 합니다.
다음 중 악의적인 사용자의 프롬프트 인젝션 위험을 완화하는 기법은 무엇인가요?
이 연습은 강의의 일부입니다