AI 사용자·프롬프트·에이전트 환경 보안 모니터링 및 대응 체계 설계와 POC
전체 개념과 목표 — 무엇을 왜 보호하는가목표: AI를 사용하는 모든 접점(사용자 프롬프트, 애플리케이션, 에이전트, API/게이트웨이, 모델/데이터·학습 파이프라인)을 대상으로 가시성 → 탐지 → 분석 → 자동/수동 대응 → 보안정책 적용의 순환을 만들고 위험(프롬프트 인젝션, 데이터 유출, 모델·데이터 포이즈닝, 비정상 에이전트 행위 등)을 낮추는 것입니다.핵심 원칙: 최소권한, 방어 심층화(Defense-in-depth), 적응형 탐지(행위·콘텍스트 기반), 검증 가능한 대응(감사·무결성), 프라이버시 보호(마스킹·Pseudonymization).보호 대상(공격 표면) — 구체 항목사용자 프롬프트 레이어: 브라우저/클라이언트에서 모델로 전송되는 텍스트(멀티턴 포함)AI 에이전트(Non-human i..
2026. 3. 10.
