본문 바로가기

보안 거버넌스4

AI가 취약점 ‘스스로’ 찾고 있다, Claude 4.7과 Mythos가 바꾼 보안의 기준 Claude Opus 4.7과 Claude Mythos Preview,그리고 Project Glasswing: Anthropic이 던진 메시지Anthropic은 2026년 4월 16일, 범용 플래그십 모델 Claude Opus 4.7을 일반 공개했습니다. 이번 모델은 고난도 소프트웨어 엔지니어링과 장기 실행형 에이전틱 작업에서 이전 세대보다 더 강해졌고, 스스로 출력을 검증하는 성향과 더 높은 해상도의 비전 처리 능력을 강조합니다. 같은 시기 Anthropic은 제한 공개 연구 프리뷰인 Claude Mythos Preview에 대한 고위험 사이버 보안 분석과 함께 Project Glasswing도 공개했습니다. 이 세 가지 발표를 함께 보면, Anthropic이 단순히 “더 똑똑한 모델”을 내놓은 것이 .. 2026. 4. 17.

AI 의사결정에 대한 책임성 확보를 위한 Human-in-the-Loop HITL 설계 HITL이란 무엇인가요?Human-in-the-loop(HITL)는 AI 에이전트가 특정 “툴(tool)”을 실행하기 전에 사람의 승인(Approve / Deny)을 반드시 거치도록 하는 통제 구조입니다.즉,AI가 혼자 마음대로 실행하지 못하게 하고사람이 의사결정의 최종 관문(Gatekeeper) 역할을 하도록 만드는 방식입니다.특히 n8n, AI Agent, MCP, Agentic Workflow 환경에서 AI가 아래와 같은 위험한 액션을 수행할 때 매우 중요합니다.메시지 발송데이터 수정 / 삭제외부 시스템 연동비용 발생 작업왜 HITL이 필요한가? (배경 & 문제의식)기존 AI 자동화의 구조적 한계AI Agent는 기본적으로컨텍스트 오해 가능프롬프트 인젝션 영향권한 범위 오판비가역 작업(undo 불가.. 2026. 2. 8.

개발 생산성은 올리고, 보안 리스크는 줄이는 AI 에이전트 설계 전략 AI 에이전트 시스템을 이렇게 쪼개서 보시면 편합니다AI 에이전트 환경을 보안/운영 관점에서 보면 보통 이렇게 4 레이어입니다.상호작용 레이어사용자, 다른 서비스, 스케줄러(n8n, 크론 등)와 만나는 인터페이스예: Slack Bot, Webhook Endpoint, CLI, 배치 잡에이전트 오케스트레이션 레이어LLM 호출, 프롬프트, 메모리(State), 도구 선택, 재시도, 피드백 루프 등예: LangChain, Semantic Kernel, ADK, MCP 기반 툴 호출도구/시스템 연동 레이어실제 일을 하는 영역: DB, Vault, Kubernetes, Wazuh, SIEM, 사내 API, n8n 워크플로우 등보안/운영 거버넌스 레이어인증/인가, 로그, 모니터링, 승인(approval), 롤백, .. 2025. 12. 3.

브라우저를 이해하는 AI: Chrome DevTools MCP로 끝내는 웹 자동화 AI 코딩 에이전트가 실제 크롬 브라우저를 열고, DevTools로 성능 추적을 녹화하고, 콘솔·네트워크를 읽고, 버튼 클릭·폼 입력까지 수행한다면? 바로 그걸 가능하게 하는 게 Chrome DevTools MCP(Model Context Protocol) 서버입니다. 공개 프리뷰를 발표한 크롬팀 공식 글과 레퍼런스, 그리고 현업 중심의 훌륭한 사용기 정리를 바탕으로 도입 배경 → 핵심 기능 → 실전 예시 → 설치/연동 → 보안 가이드까지 한 번에 담았습니다.MCP & Chrome DevTools MCP 한눈에 보기MCP란? LLM이 외부 도구·데이터 소스와 표준 방식으로 통신하도록 만든 오픈 프로토콜. 동일한 문법으로 다양한 도구를 부릴 수 있게 합니다.Chrome DevTools MCP: MCP 서버.. 2025. 11. 8.

이전 1 다음

728x90

티스토리툴바