AI agent22 728x90 AI Agent 시대의 새로운 위협: Bedrock 공격 벡터 8가지와 방어 가이드 AWS Bedrock에서 발견된 8가지 AI 공격 벡터 분석(AI Agent / Code Interpreter 기반 공격 모델)왜 Bedrock이 공격 표면이 되는가?AWS Bedrock Agent + Code Interpreter 구조는 다음 특징을 가짐LLM이 코드를 생성 → 실행실행 환경은 Sandbox (격리 환경)IAM Role 기반으로 AWS 리소스 접근즉, 단순 AI가 아니라 “코드를 실행하는 자동화된 클라우드 사용자”로 동작핵심 문제LLM 입력 → 코드 생성 → 실제 실행잘못된 입력 = 실행 가능한 공격 코드기존 웹 취약점 + AI 특성 결합된 신종 공격 표면8가지 공격 벡터 (핵심 구조별 정리)Prompt Injection (입력 기반 코드 오염)개념AI가 처리하는 데이터(예: CSV, .. 2026. 3. 24. 웹 UI 자동화의 다음 단계 브라우저 기반 AI 에이전트 PageAgent 아키텍처 PageAgent는 Alibaba에서 공개한 웹 페이지 내부에서 실행되는 AI 에이전트 라이브러리입니다.쉽게 말하면 “웹 페이지를 AI가 직접 조작하도록 만드는 JavaScript Agent” 입니다.예를 들어 사용자가 이렇게 말하면"로그인 버튼을 클릭하고 설정 페이지로 이동해줘"AI가 실제로 버튼 클릭 → 페이지 이동 → 입력 → 스크롤 등을 실행합니다.PageAgent 한 줄 정의웹 페이지에 삽입되는 Client-side AI GUI Agent즉LLM + DOM 분석 + UI 자동화이 결합된 구조입니다.핵심 특징브라우저 내부에서 실행되는 Agent기존 웹 자동화PlaywrightSeleniumbrowser-use이들은외부 프로그램 → 브라우저 제어하지만 PageAgent는웹 페이지 내부 JS ↓D.. 2026. 3. 13. Human-in-the-Loop: 안전한 AI 에이전트 자동화와 인간 검증 설계 원칙 AI 에이전트는 “효율성”과 “위험”을 동시에 증폭시킵니다. 따라서 안전한 운영을 위해서는 워크플로우 자동화(Deterministic), AI 추론(Probabilistic), 사람의 검증(Human-in-the-loop) 이 세 축을 결합해야 합니다. 또한 권한·감사·검증·모니터링이 설계 초기에 반영되어야 합니다.AI Agent 운영 아키텍처 (Enterprise reference architecture)구성 요소 (상위 레벨)외부 트리거 레이어: Webhook, 메시지 큐, 스케줄러, SIEM 알람 등Orchestration 레이어: Workflow 엔진 (n8n, Airflow, Argo Workflows 등)AI 추론 레이어: LLM / ML 모델 (내부 모델 또는 외부 API)Tooling / .. 2026. 3. 11. 대화형 인터페이스로 업무를 실행하다: n8n Workflow Agent 구현 Chat Hub 한 줄 정의와 전체 구조Chat Hub는 n8n 안에서 “대화 UI(채팅)”를 중심으로여러 LLM 모델을 선택해 대화하거나내가 만든 Personal Agent(가벼운 커스텀 프롬프트 에이전트) 를 쓰거나내가/동료가 만든 워크플로우를 ‘에이전트처럼’ 호출(Workflow agent) 하도록 해주는 중앙 채팅 인터페이스입니다.즉, “대화 → (선택한 에이전트/워크플로우 실행) → 응답”이 한 화면에서 연결됩니다.Chat Hub에서 에이전트를 만드는 2갈래(핵심 비교)간단 Personal Agent (Chat Hub 안에서 즉시 생성)목적: 반복적인 프롬프트 템플릿, 톤/규칙 고정, 간단한 작업에 “AI를 더 안정적으로” 쓰기장점: 빠르고 간단, Chat Hub 모델 선택기에서 즉시 선택 가능.. 2026. 2. 17. Zero Trust 관점에서 본 Guardrail 중심 MCP 서버 보안 설계와 운영 방안 전체 목표와 핵심 원칙목표MCP 서버는 “도구 실행/리소스 읽기”라는 강력한 권한을 다루므로,접속 관문(NGINX)에서 강하게 걸러내고, MCP 내부에서는 역할/스코프/입력검증으로 “행동”을 통제합니다.툴/리소스를 코드 하드코딩이 아니라 DB/JSON으로 관리하고, 관리용 Web API로 추가/수정하면, MCP 서버는 이를 실시간 반영합니다.원칙외부에서 MCP로 직통 접근 금지 (MCP는 내부망/loopback에만 바인딩)mTLS로 “클라이언트 단위” 강제 식별 (토큰보다 앞선 1차 관문)Zero Trust = 기본 차단 + 최소 허용Guardrail은 2단(A) 서버 레벨: role/scope 기반 Tool/Resource 필터(B) 툴 레벨: arguments 검증/수정/차단 (예: analyze_t.. 2026. 1. 31. 이전 1 2 3 4 5 다음 728x90 728x90
