본문 바로가기

보안 거버넌스3

728x90
AI 의사결정에 대한 책임성 확보를 위한 Human-in-the-Loop HITL 설계 HITL이란 무엇인가요?Human-in-the-loop(HITL)는 AI 에이전트가 특정 “툴(tool)”을 실행하기 전에 사람의 승인(Approve / Deny)을 반드시 거치도록 하는 통제 구조입니다.즉,AI가 혼자 마음대로 실행하지 못하게 하고사람이 의사결정의 최종 관문(Gatekeeper) 역할을 하도록 만드는 방식입니다.특히 n8n, AI Agent, MCP, Agentic Workflow 환경에서 AI가 아래와 같은 위험한 액션을 수행할 때 매우 중요합니다.메시지 발송데이터 수정 / 삭제외부 시스템 연동비용 발생 작업왜 HITL이 필요한가? (배경 & 문제의식)기존 AI 자동화의 구조적 한계AI Agent는 기본적으로컨텍스트 오해 가능프롬프트 인젝션 영향권한 범위 오판비가역 작업(undo 불가.. 2026. 2. 8.
개발 생산성은 올리고, 보안 리스크는 줄이는 AI 에이전트 설계 전략 AI 에이전트 시스템을 이렇게 쪼개서 보시면 편합니다AI 에이전트 환경을 보안/운영 관점에서 보면 보통 이렇게 4 레이어입니다.상호작용 레이어사용자, 다른 서비스, 스케줄러(n8n, 크론 등)와 만나는 인터페이스예: Slack Bot, Webhook Endpoint, CLI, 배치 잡에이전트 오케스트레이션 레이어LLM 호출, 프롬프트, 메모리(State), 도구 선택, 재시도, 피드백 루프 등예: LangChain, Semantic Kernel, ADK, MCP 기반 툴 호출도구/시스템 연동 레이어실제 일을 하는 영역: DB, Vault, Kubernetes, Wazuh, SIEM, 사내 API, n8n 워크플로우 등보안/운영 거버넌스 레이어인증/인가, 로그, 모니터링, 승인(approval), 롤백, .. 2025. 12. 3.
브라우저를 이해하는 AI: Chrome DevTools MCP로 끝내는 웹 자동화 AI 코딩 에이전트가 실제 크롬 브라우저를 열고, DevTools로 성능 추적을 녹화하고, 콘솔·네트워크를 읽고, 버튼 클릭·폼 입력까지 수행한다면? 바로 그걸 가능하게 하는 게 Chrome DevTools MCP(Model Context Protocol) 서버입니다. 공개 프리뷰를 발표한 크롬팀 공식 글과 레퍼런스, 그리고 현업 중심의 훌륭한 사용기 정리를 바탕으로 도입 배경 → 핵심 기능 → 실전 예시 → 설치/연동 → 보안 가이드까지 한 번에 담았습니다.MCP & Chrome DevTools MCP 한눈에 보기MCP란? LLM이 외부 도구·데이터 소스와 표준 방식으로 통신하도록 만든 오픈 프로토콜. 동일한 문법으로 다양한 도구를 부릴 수 있게 합니다.Chrome DevTools MCP: MCP 서버.. 2025. 11. 8.
728x90
728x90