인공지능 (AI,GPT)133 728x90 AI Agent 시대의 보안: 권한을 가진 AI를 어떻게 통제할 것인가 “모델 경쟁 → 에이전트 경쟁”으로 전환핵심 변화는 단 하나입니다LLM 성능 경쟁 → 실제 업무를 수행하는 “Agent 시스템 경쟁”으로 이동과거: GPT vs Claude vs Gemini “누가 더 똑똑한가”현재: “누가 더 복잡한 일을 자동으로 수행하는가”주요 트렌드단순 텍스트 생성 → 툴 사용 + 실행 + 피드백 loop단일 모델 → 멀티 에이전트 협업 구조Prompt → 워크플로 / 시스템 설계➡️ 즉, 이제는 모델보다 “운영 구조”가 더 중요LLM 자체 변화: “파라미터 → 추론 능력” 중심주요 모델 업데이트GPT-5.4Claude 4.6Gemini 3.1Llama 4 등 (Renovate QR)핵심 변화단순 성능이 아니라“Cognitive Density (인지 밀도)” + 추론 능력 강화긴 .. 2026. 3. 31. 세션 기반 AI Agent 팀 운영 아키텍처: sessions_send · Harness · SSOT 에이전트 간 트리거는 sessions_send로 전달되고, 그 전체 흐름을 하네스가 통제하며, 그 기준 데이터를 SSOT로 운영해야 합니다. 단순히 “에이전트가 대화한다”는 수준이 아니라, 에이전트 팀을 운영하는 방식 자체를 관제 가능한 구조로 바꾸는 설계를 다뤘습니다.즉,에이전트 간 상호작용은 세션 기반에이전트 간 트리거는 sessions_send 중심여러 에이전트를 묶는 운영 레이어는 하네스(harness)그 하네스가 바라보는 단일 기준 데이터는 SSOT관제는 이 흐름을 세션, 메시지, 상태, 비용, 보안 관점에서 모니터링하는 구조로 정리할 수 있습니다.sessions_send의 의미: 에이전트 간 트리거 전달 수단대화 초반에는 “에이전트 간 대화 session send 모니터링 관제 대시보드”라는 .. 2026. 3. 29. Agentic AI 시대의 보안 패러다임 전환: Kill Chain에서 Intent 기반으로 AI Agent 시대: Kill Chain이 무너지는 이유기존 Kill Chain 모델의 전제 (왜 잘 동작했나)기존 Cyber Kill Chain은 아래와 같은 선형 공격 모델을 가정합니다.Recon → Initial Access → Execution → Persistence → Lateral Movement → Exfiltration✔ 공격자는 “외부에서 침투”✔ 단계별로 점진적 권한 상승✔ 탐지 포인트가 명확 (각 단계별 이벤트 존재)👉 그래서 SIEM / EDR / IDS가 단계별 탐지 & 차단 가능했음AI Agent 등장으로 깨진 전제“공격자는 더 이상 kill chain을 밟을 필요가 없다… 이미 내부에 있는 AI agent를 장악하면 된다”내부자 공격 모델로 변질AI Agent는 이미 내부.. 2026. 3. 27. Claude Memory + Auto Dream + 작업 로그: AI가 프로젝트 전문가 구조 Claude 계열 AI의 메모리 시스템은 어떻게 진화하고 있을까?Auto Memory, Auto Dream, 그리고 작업 기록 축적형 메모리 시스템의 차이와 조합AI 에이전트를 실무에 쓰다 보면 가장 자주 부딪히는 문제가 있습니다.바로 “이전 세션에서 무엇을 했는지 잊어버린다”는 점입니다.단발성 질문에는 괜찮지만, 코드 분석·프로젝트 운영·장기적인 자동화 작업처럼 시간이 길어질수록 AI는 맥락을 잃기 쉽습니다. 그래서 최근에는 AI가 단순히 대화를 이어가는 수준을 넘어서, 기억을 저장하고, 정리하고, 다음 세션에 다시 불러오는 메모리 시스템이 중요한 주제로 떠오르고 있습니다.Auto Memory: 무엇을 알게 되었는가Auto Dream: 기억을 어떻게 정리하고 유지하는가claude-mem 같은 작업 기록.. 2026. 3. 26. Human-in-the-Loop: 안전한 AI 에이전트 자동화와 인간 검증 설계 원칙 AI 에이전트는 “효율성”과 “위험”을 동시에 증폭시킵니다. 따라서 안전한 운영을 위해서는 워크플로우 자동화(Deterministic), AI 추론(Probabilistic), 사람의 검증(Human-in-the-loop) 이 세 축을 결합해야 합니다. 또한 권한·감사·검증·모니터링이 설계 초기에 반영되어야 합니다.AI Agent 운영 아키텍처 (Enterprise reference architecture)구성 요소 (상위 레벨)외부 트리거 레이어: Webhook, 메시지 큐, 스케줄러, SIEM 알람 등Orchestration 레이어: Workflow 엔진 (n8n, Airflow, Argo Workflows 등)AI 추론 레이어: LLM / ML 모델 (내부 모델 또는 외부 API)Tooling / .. 2026. 3. 11. 이전 1 2 3 4 ··· 27 다음 728x90 728x90
