웹을 읽는 AI일수록 프롬프트 인젝션을 조심한다

웹을 읽는 AI일수록 프롬프트 인젝션을 조심한다에서 무엇을 배울 수 있나요?

웹페이지·문서 안의 문장은 사용자 지시가 아닐 수 있습니다. 외부 콘텐츠를 읽고 행동하는 에이전트는 권한과 검증 절차를 더 엄격하게 두어야 합니다.

바로 적용할 핵심

1. 외부 문서의 지시를 사용자 명령과 구분합니다.
2. 민감한 작업은 최소 권한으로 실행합니다.
3. 결제·전송·삭제처럼 영향이 큰 행동은 사람 승인을 둡니다.
4. 출처와 실행 결과를 분리해서 기록합니다.