AI
AI 제품 개발 중 마주칠 수 있는 보안 위협 사례와 대책 방안
두줄요약
AI 제품 개발에서 발생할 수 있는 보안 위협 사례 다섯 가지를 소개했습니다.입력 검증, 권한 최소화, 벡터 보호 같은 대응 방안을 정리했습니다.
핵심 내용
- AI 제품 개발 과정에서 발생할 수 있는 다섯 가지 보안 위협 사례 정리
- 슬랍스쿼팅, 프롬프트 인젝션, GitHub MCP 오남용, 임베딩 인버전 등 실제 공격 경로와 영향 소개
- 보안 검수, MCP 검수, 사례 조사와 가이드라인 배포 등 대응 활동 공유
주의할 점
- 생성형 AI가 제안한 패키지나 코드를 그대로 신뢰하지 말고 직접 검증 필요
- 사용자를 공격자로 가정하고 입력 검증, 정제, 처리 범위 제한 적용 필요
- RAG에서 개인정보를 다룰 때는 임베딩 벡터와 원본 데이터 모두 보호 필요
적용해볼 점
- LLM 출력과 실행 경로에 가드레일 적용
- AI 에이전트 권한 최소화와 리포지터리 접근 범위 제한
- 벡터 DB 인증, 인가, 암호화 강화