시작하기무료로 시작하기

프롬프트 인젝션 완화하기

온라인 뱅킹용 고객 지원 챗봇을 개발하고 있는데, 팀에서 악의적인 사용자가 프롬프트 인젝션을 이용해 민감한 정보를 사용자로부터 끌어낼 수 있다는 우려가 제기되었어요. 여러분이 개발하는 챗봇은 상위 수준의 질문에만 답하고, 개인 정보와 관련한 세부 사항에는 들어가지 않아야 합니다.

다음 중 악의적인 사용자의 프롬프트 인젝션 위험을 완화하는 기법은 무엇인가요?

이 연습은 강의의 일부입니다

OpenAI API로 AI 시스템 개발하기

강의 보기

실습형 인터랙티브 연습문제

이론을 실습으로 바꾸는 인터랙티브 연습 중 하나를 만나보세요

연습 시작