본문 바로가기

정보보호 (Security)435

728x90
AI 사용자·프롬프트·에이전트 환경 보안 모니터링 및 대응 체계 설계와 POC 전체 개념과 목표 — 무엇을 왜 보호하는가목표: AI를 사용하는 모든 접점(사용자 프롬프트, 애플리케이션, 에이전트, API/게이트웨이, 모델/데이터·학습 파이프라인)을 대상으로 가시성 → 탐지 → 분석 → 자동/수동 대응 → 보안정책 적용의 순환을 만들고 위험(프롬프트 인젝션, 데이터 유출, 모델·데이터 포이즈닝, 비정상 에이전트 행위 등)을 낮추는 것입니다.핵심 원칙: 최소권한, 방어 심층화(Defense-in-depth), 적응형 탐지(행위·콘텍스트 기반), 검증 가능한 대응(감사·무결성), 프라이버시 보호(마스킹·Pseudonymization).보호 대상(공격 표면) — 구체 항목사용자 프롬프트 레이어: 브라우저/클라이언트에서 모델로 전송되는 텍스트(멀티턴 포함)AI 에이전트(Non-human i.. 2026. 3. 10.
RAG·LLM 환경에서의 보안 통제 모델과 AI 보안 태세 관리(AI-SPM) 전략 AI-SPM은 한마디로 조직이 운영·사용 중인 AI(특히 LLM 포함) 자산의 보안 상태를 “지속적으로” 가시화하고, 위험을 평가·우선순위화하여, 수정·통제를 운영 프로세스에 내재화하는 체계입니다. 기존의 “정책/프레임워크 중심(무엇을/왜)” 관리가 있다면, AI-SPM은 “현장에서 실제로 탐지·평가·조치(어떻게)”가 돌아가도록 하는 실행형 보안 운영 모델에 가깝습니다.AI가 ‘도구’에서 ‘핵심 자산’으로 바뀜AI 모델(내부 모델/외부 API), 학습 데이터, 프롬프트, RAG 인덱스(벡터DB), 파이프라인(MLOps), 모델 배포 인프라가 비즈니스 핵심 경로로 들어왔습니다.따라서 “AI를 해킹하면 서비스/데이터/의사결정 전체가 흔들리는 구조”가 됩니다.기존 보안 영역(CSPM/ASPM/SSPM 등)만으.. 2026. 2. 26.
Gemini CLI 훅(Hook)으로 AI 에이전트 실행 전에 ‘보안 브레이크’ 달기 ― AI 에이전트 제어·보안·정책 자동화를 위한 핵심 메커니즘 ―Gemini CLI 훅이란 무엇인가Gemini CLI의 훅(Hook) 은 AI 에이전트가 동작하는 라이프사이클의 특정 지점에 사용자 정의 스크립트를 “동기적으로” 실행할 수 있도록 하는 기능입니다.핵심 포인트는 다음과 같습니다.에이전트의 행동 이전/이후에 개입 가능훅이 완료될 때까지 에이전트는 대기훅 결과(JSON 응답)에 따라작업 허용(allow)작업 차단(deny)프롬프트/응답/도구 변경컨텍스트 주입단순 자동화가 아니라 정책 강제 수단즉, “AI가 뭔가 하기 전에 보안·정책·검증을 먼저 통과시킨다”는 개념입니다.왜 훅이 중요한가 (특히 기업·보안 환경)일반적인 LLM 기반 CLI는 다음 문제가 있습니다.AI가 파일을 마음대로 수정API .. 2026. 2. 6.
키를 못 지키면 암호화도 무너진다 “KMS로 만드는 데이터 방어선“ 데이터 암호화는 단일 기술이 아니라 “계층형 방어 체계”입니다.아래 3개 축은 서로 대체 관계가 아니라 반드시 함께 작동해야 합니다.전송 암호화 (In Transit)저장 암호화 (At Rest)키 관리 (KMS · 엔벨로프 암호화 · 키 수명주기)핵심 원칙“데이터는 항상 암호화되어 있어야 하고,그 암호화 키는 데이터와 분리되어 중앙에서 통제되어야 한다.”전송 암호화 (Encryption In Transit)1. 개념과 배경전송 암호화는 네트워크를 이동 중인 데이터를 보호합니다.공격 시나리오내부망 스니핑중간자 공격(MITM)프록시/로드밸런서 구간 도청전송 암호화가 없으면→ 내부망 침해 시 모든 인증 정보·API Payload가 평문 노출2. 적용 대상클라이언트 ↔ 서버 (웹/모바일)서버 ↔ 서버 (마이크.. 2026. 2. 1.
외부 위탁업체 도입 시 필수 보안 검토 핵심 요건 및 통제 기준 체크리스트 전체 구조(왜 이렇게 점검해야 하나)위탁은 “업무를 맡기는 것”이 아니라 권한·데이터·로그·운영 결정권 일부를 외부에 열어주는 것입니다.따라서 위탁 보안은 기술만 보면 실패합니다.✅ 위탁 보안의 핵심 4원칙1️⃣ 책임 불변: 사고 책임은 위탁사(우리)로 귀결2️⃣ 통제 분리: 운영을 맡겨도 보안 통제권은 내부가 보유3️⃣ 추적 가능: “누가/언제/무엇을” 했는지 증적이 남아야 함4️⃣ 최소 노출: 데이터/권한/시스템 노출을 업무 최소 단위로 제한위탁 유형별 리스크 차이(적용 범위 정리)위탁 유형핵심 리스크최우선 통제CS/콜센터개인정보 유출, 본인확인 미흡마스킹/반출통제/녹취·조회 로그인프라/IDC 운영관리자 권한 오남용, 계정 회수Jump/PAM/MFA/세션기록클라우드 MSP콘솔 권한 과다, 설정 변경I.. 2026. 1. 3.
728x90
728x90

티스토리툴바